¿Cómo Funciona la Nueva Función de Corrección?
La herramienta de corrección escanea el contenido producido por modelos de IA y lo compara con el material fuente proporcionado por el cliente. Cuando identifica inexactitudes, resalta el error, explica por qué es incorrecto y reescribe el contenido antes de que el usuario tenga la oportunidad de verlo. Este enfoque proactivo busca mitigar las «alucinaciones» que a menudo se producen en las salidas de IA.
Comparación con Otras Plataformas de IA
En un contexto similar, Vertex AI, la plataforma de Google para el desarrollo de IA, utiliza un enfoque de «anclaje» que verifica las salidas de los modelos de IA contra Google Search y conjuntos de datos de terceros. Esta comparación resalta un aspecto crítico: aunque ambas herramientas buscan mejorar la precisión, ninguna es infalible.
Declaraciones de Microsoft
Un portavoz de Microsoft explicó que el sistema de «corrección» utiliza tanto «modelos de lenguaje pequeños como grandes para alinear las salidas con documentos de referencia». Sin embargo, advirtió que esta función no garantiza la exactitud total. «Es importante señalar que la detección de anclaje no resuelve el ‘exactitud’, sino que ayuda a alinear las salidas de IA generativa con documentos de referencia», afirmaron.
Con esta nueva herramienta, Microsoft busca ofrecer una solución más efectiva para los problemas de precisión en la IA, lo que podría ser un gran avance en el uso responsable y seguro de esta tecnología en diversas aplicaciones empresariales.
