ChatGPT

Los creadores de ChatGPT están lanzando una nueva herramienta para atrapar a las personas que usan ChatGPT.

Hoy, OpenAI, la compañía detrás de ChatGPT y DALL·E 2, anunció una nueva herramienta de «clasificador de IA» para detectar si un ser humano tiene texto escrito… o inteligencia artificial. La compañía espera que la nueva herramienta pueda usarse para evitar el uso indebido de las herramientas de generación de texto de IA para fines engañosos, como «campañas de desinformación automatizadas, uso de herramientas de IA para la deshonestidad académica y posicionamiento de un chatbot de IA como humano».

Hemos entrenado un clasificador para distinguir entre texto escrito por un humano y texto escrito por IA de una variedad de proveedores. Si bien es imposible detectar de manera confiable todo el texto escrito por IA, creemos que los buenos clasificadores pueden informar las mitigaciones de afirmaciones falsas de que el texto generado por IA fue escrito por un humano: por ejemplo, ejecutar campañas automatizadas de desinformación, usar herramientas de IA para la deshonestidad académica y posicionar un chatbot de IA como un ser humano.

Si bien eso podría asustar a todos los estudiantes de secundaria que ahora usan ChatGPT para aprobar su examen de historia (o a los asistentes a la facultad de derecho o negocios), la compañía dice que la confiabilidad de la herramienta no es excelente hasta el momento. Según sus pruebas, el clasificador solo pudo identificar alrededor del 26% del contenido de IA como escrito por un no humano.

Nuestro clasificador no es totalmente fiable. En nuestras evaluaciones sobre un «conjunto de desafíos» de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como «probablemente escrito por IA«, mientras que etiqueta incorrectamente el texto escrito por humanos como 9 % escrito por IA. el tiempo (falsos positivos). La confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada. En comparación con nuestro clasificador lanzado anteriormente, este nuevo clasificador es significativamente más confiable en el texto de los sistemas de IA más recientes.

OpenAI anunció que está poniendo a disposición del público el clasificador «para obtener comentarios sobre si las herramientas imperfectas como esta son útiles». La compañía también mencionó que está interactuando con educadores para recibir aportes y desarrollar nuevos recursos sobre el uso de la IA y la educación.

Cualquiera que esté interesado en probar el clasificador puede consultarlo en el sitio web de OpenAI.

 

ENLACE ORIGINAL: ChatGPT creator launches tool to catch people using ChatGPT | BGR

 

VEA MÁS EN https://entornointeligente.com/

¡Haz clic para puntuar esta entrada!
(Votos: 0 Promedio: 0)
You May Also Like

Película Emilia Pérez gana el Goya a mejor película extranjera

La película “Emilia Pérez” gana el mejor premio de cine español en…

Daniel Noboa gana en Primera Vuelta y da mensaje de esperanza para Ecuador

Daniel Noboa habló tras la ajustada victoria en Ecuador: “Gracias por la…

Trump promete hacer de todo por recuperar el control de la franja de Gaza

Netanyahu regresó a Israel de su viaje a EEUU, y dijo que…

Compromiso social de Bancamiga se consolidó en 2024 ratificando su apoyo a los venezolanos

Con la innovación y el emprendimiento como pilares fundamentales de su gestión…

Dictadura de Maduro secuestra a joven embarazada por ser pareja de un teniente

El régimen de Venezuela secuestró a la esposa embarazada de un teniente…

Trust Texas Piers Consulting for Reliable Forensic Engineering Services

What is Forensic Engineering? Understanding Its Role in Modern Construction   What…

Alberto Ardila Piloto details the improvements of the McLaren Artura 2025

McLaren, the British brand renowned for its excellence in motorsport, has taken…

Cartera de crédito de Bancamiga aumentó en 123,69% en 2024

El aumento de capital por parte de los accionistas reafirmó su compromiso por el bienestar…

EEUU no dará un dólar más a ayudas internacionales

EE.UU. congela casi toda la ayuda exterior El Departamento de Estado de…

Como Levy García Crespo Eleva los Estándares de Bienes Raíces en República Dominicana

Transformación del Mercado Inmobiliario del Caribe <img alt="" src="https://elinformadorve.com/wp-content/uploads/2024/08/Levy_Garcia_Crespo_El_Informador-1536×1024.jpg» /> Con más…