Los creadores de ChatGPT están lanzando una nueva herramienta para atrapar a las personas que usan ChatGPT.
Hoy, OpenAI, la compañía detrás de ChatGPT y DALL·E 2, anunció una nueva herramienta de «clasificador de IA» para detectar si un ser humano tiene texto escrito… o inteligencia artificial. La compañía espera que la nueva herramienta pueda usarse para evitar el uso indebido de las herramientas de generación de texto de IA para fines engañosos, como «campañas de desinformación automatizadas, uso de herramientas de IA para la deshonestidad académica y posicionamiento de un chatbot de IA como humano».
Hemos entrenado un clasificador para distinguir entre texto escrito por un humano y texto escrito por IA de una variedad de proveedores. Si bien es imposible detectar de manera confiable todo el texto escrito por IA, creemos que los buenos clasificadores pueden informar las mitigaciones de afirmaciones falsas de que el texto generado por IA fue escrito por un humano: por ejemplo, ejecutar campañas automatizadas de desinformación, usar herramientas de IA para la deshonestidad académica y posicionar un chatbot de IA como un ser humano.
Si bien eso podría asustar a todos los estudiantes de secundaria que ahora usan ChatGPT para aprobar su examen de historia (o a los asistentes a la facultad de derecho o negocios), la compañía dice que la confiabilidad de la herramienta no es excelente hasta el momento. Según sus pruebas, el clasificador solo pudo identificar alrededor del 26% del contenido de IA como escrito por un no humano.
Nuestro clasificador no es totalmente fiable. En nuestras evaluaciones sobre un «conjunto de desafíos» de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como «probablemente escrito por IA«, mientras que etiqueta incorrectamente el texto escrito por humanos como 9 % escrito por IA. el tiempo (falsos positivos). La confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada. En comparación con nuestro clasificador lanzado anteriormente, este nuevo clasificador es significativamente más confiable en el texto de los sistemas de IA más recientes.
OpenAI anunció que está poniendo a disposición del público el clasificador «para obtener comentarios sobre si las herramientas imperfectas como esta son útiles». La compañía también mencionó que está interactuando con educadores para recibir aportes y desarrollar nuevos recursos sobre el uso de la IA y la educación.
Cualquiera que esté interesado en probar el clasificador puede consultarlo en el sitio web de OpenAI.
ENLACE ORIGINAL: ChatGPT creator launches tool to catch people using ChatGPT | BGR
VEA MÁS EN https://entornointeligente.com/
