Puede que exista una herramienta de marca de agua ChatGPT precisa, pero OpenAI no la lanzará
Tengan cuidado con los plagiadores de ChatGPT , ya que OpenAI ha desarrollado una herramienta que es capaz de detectar la salida de escritura de GPT-4 con una precisión del 99,99%. Sin embargo, la compañía ha pasado más de un año dudando sobre si lanzarlo o no al público.
Según se informa, la compañía está adoptando un "enfoque deliberado" debido a "las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI", según TechCrunch . "El método de marca de agua de texto que estamos desarrollando es técnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas, incluida la susceptibilidad a la elusión por parte de malos actores y el potencial de impactar desproporcionadamente a grupos como los que no hablan inglés", dijo un portavoz de OpenAI. dicho.
El sistema de marcas de agua de texto funciona incorporando un patrón específico en la salida escrita del modelo que es detectable para la herramienta OpenAI, pero invisible para el usuario final. Si bien esta herramienta puede detectar de manera confiable la escritura generada por su propio motor GPT-4, no puede detectar las salidas de otros modelos como Gemini o Claude. Es más, la propia marca de agua se puede eliminar ejecutando el resultado del texto a través de Google Translate, cambiándolo a otro idioma y luego viceversa.
Este no es el primer intento de OpenAI de crear una herramienta de detección de texto. El año pasado, silenciosamente eliminó un detector de texto similar que tenía en desarrollo debido a la insignificante tasa de detección de la herramienta y su propensión a falsos positivos. Lanzado en enero de 2023, ese detector necesitaba que un usuario ingresara manualmente un texto de muestra de al menos 1000 caracteres de longitud antes de poder tomar una determinación. Logró clasificar correctamente el contenido generado por IA con solo un 26 % de precisión y etiquetó el contenido generado por humanos como derivado de IA el 9 % de las veces. También llevó a un profesor de Texas A&M a reprobar incorrectamente a toda una clase por supuestamente usar ChatGPT en sus tareas finales.
Según se informa, OpenAI también duda en lanzar la herramienta por temor a una reacción violenta del usuario. Según el Wall Street Journal, el 69% de los usuarios de ChatGPT cree que una herramienta de este tipo no sería confiable y probablemente daría lugar a acusaciones falsas de trampa. Otro 30% informó que abandonarían voluntariamente el chatbot en favor de un modelo diferente si OpenAI realmente implementara la función. La compañía también teme que los desarrolladores puedan aplicar ingeniería inversa a la marca de agua y crear herramientas para negarla.
Mientras OpenAI debate los méritos de lanzar su sistema de marcas de agua, otras nuevas empresas de IA se apresuran a lanzar sus propios detectores de texto, incluidos GPTZero, ZeroGPT, Scribbr y Writer AI Content Detector. Sin embargo, dada su falta general de precisión, el ojo humano sigue siendo nuestro mejor método para detectar contenido generado por IA, lo cual no es tranquilizador.