Deje de usar herramientas de IA generativa como ChatGPT, el personal de pedidos de Samsung
Samsung le ha dicho al personal que deje de usar herramientas de inteligencia artificial generativa como ChatGPT y Bard por la preocupación de que representen un riesgo para la seguridad, informó Bloomberg el lunes.
La medida sigue a una serie de deslices vergonzosos el mes pasado cuando, según los informes, los empleados de Samsung ingresaron datos confidenciales relacionados con semiconductores en ChatGPT en tres ocasiones.
ChatGPT, al igual que otras herramientas de IA generativa, se entrena en parte con los datos enviados, por lo que cualquier cosa que Samsung ingrese podría aparecer en respuesta a una consulta realizada por otro usuario en cualquier parte del mundo, aunque el desarrollador de ChatGPT, OpenAI, agregó recientemente un modo de incógnito que permite a los usuarios bloquear sus entradas para que no se utilicen para el entrenamiento del modelo de IA. OpenAI mismo también puede ver los datos mientras revisa las conversaciones para mejorar sus sistemas y garantizar que el contenido cumpla con sus políticas y requisitos de seguridad.
En un memorando visto por Bloomberg, Samsung ordenó al personal que se abstuviera de usar la tecnología en computadoras, tabletas y teléfonos propiedad de la empresa, así como en sus redes internas, advirtiendo que los datos transmitidos a plataformas de IA generativa podrían terminar llegando a personas ajenas a la empresa.
“El interés en las plataformas de IA generativa como ChatGPT ha ido creciendo interna y externamente”, dice el memorando de Samsung. “Si bien este interés se centra en la utilidad y la eficiencia de estas plataformas, también hay una creciente preocupación por los riesgos de seguridad que presenta la IA generativa”.
Agregó que los trabajadores que no sigan las pautas de seguridad podrían enfrentar medidas disciplinarias “que pueden incluir la terminación del empleo”.
El memorando decía que Samsung está actualmente "revisando las medidas de seguridad para crear un entorno seguro para usar de manera segura la IA generativa para mejorar la productividad y la eficiencia de los empleados", pero dijo que hasta que se acuerden las medidas, la compañía está "restringiendo temporalmente el uso de IA generativa”.
Como parte de los esfuerzos para integrar las herramientas de IA de manera segura en su lugar de trabajo, se informa que Samsung está desarrollando su propia plataforma de IA para traducir, resumir documentos y desarrollar software.
Como señala Bloomberg, Samsung es la última gran empresa en moverse en contra de la tecnología por preocupaciones de seguridad, con bancos como JPMorgan Chase & Co., Bank of America Corp. y Citigroup Inc. que deciden prohibir o al menos restringir su uso en el lugar de trabajo.
De hecho, la tecnología de IA se está moviendo a un ritmo tan rápido que muchas empresas se han visto sorprendidas por su llegada, lo que ha dejado a muchas evaluando apresuradamente cómo incorporarla, o incluso restringirla, en el entorno laboral.