¿Bot o no? Esta extensión del navegador identificará el texto escrito por A.I.
Averiguar si las cosas que lees en Internet son ciertas puede ser un desafío. Gracias a un nuevo complemento web, determinar si las historias fueron escritas por un humano o una IA ahora es mucho más fácil. GPTrue or False es una extensión del navegador para Chrome y Firefox que permite a los usuarios seleccionar texto en un sitio web (50 palabras y más) y evaluarlo para determinar la probabilidad de que haya sido escrito por el modelo de IA GPT-2 de OpenAI en lugar de un humano.
GPT-2 es un algoritmo generador de texto que permite a los usuarios sembrarlo con el inicio de un texto, como un artículo de un periódico, y luego sueña el resto de una manera aterradora y convincente. Mientras que algunos lo han utilizado con fines creativos, como generar juegos de aventuras de texto en constante cambio , otros están legítimamente preocupados por lo que podría significar para la difusión de noticias falsas .
GPTrue o False ejecuta el texto seleccionado a través del modelo de detector GPT-2 de OpenAI , y luego calcula la probabilidad de que el texto haya sido generado por humanos en lugar de creado por una máquina.
"Diría que el problema es bastante relevante en el mundo de hoy", dijo Giulio Starace, el creador de GPTrue o False, a Digital Trends. “A medida que la generación de datos sintéticos se vuelve cada vez más sofisticada, nos volvemos más y más vulnerables a ser influidos de una forma u otra. Las noticias falsas generadas por las máquinas son un ejemplo, pero considere también las revisiones falsas. En un mundo donde la revisión ha sido de código abierto, se puede abusar de este sistema y los consumidores pueden influir arbitrariamente en un negocio en particular ".
Starace dijo que se inspiró para crear el complemento después de ver un tweet del director de IA de Tesla, Andrej Karpathy. El 6 de noviembre, Karpathy tuiteó una solicitud de extensión de Chrome para ayudar a detectar el texto GPT-2 en línea. "Vi el tweet y pensé, 'oye, probablemente pueda hacer eso'", dijo Starace. La extensión se puede descargar aquí .
Una última palabra de precaución: si bien este detector es impresionantemente preciso cuando se trata de detectar los garabatos de una IA, aún querrás usar algo de sentido común. Al igual que un detector de spam que detecta correos electrónicos basura, puede haber algunas piezas escritas por humanos que se escapan por las grietas, o viceversa.
"Puede darse el caso de que el texto generado por GPT-2 y el texto generado por humanos a veces tengan características superpuestas que lleven al detector a pensar accidentalmente que una porción de texto generada por humanos en realidad es generada por una máquina", dijo Starace. "Hay algunos ejemplos divertidos de esto en mi Twitter donde la gente muestra que el detector clasifica erróneamente un discurso de Trump como generado por computadora , y del mismo modo en un extracto de James Joyce . Entonces, o bien Trump y James Joyce son robots, o el detector es imperfecto ".