Los juguetes con IA dan miedo, pero esta pequeña caja roja promete una solución

Este artículo forma parte de Trending Forward , nuestra serie de videos y podcasts que explora cómo la tecnología disruptiva está cambiando nuestra forma de vida. Esta semana, hablamos con Arun Gupta, fundador y director ejecutivo de Hapiko, sobre…

Si eres de los que dice que "parece que la IA está en todas partes", te equivocas. Sí, se está infiltrando en el trabajo, la escuela y otros ámbitos, pero se está expandiendo rápidamente hacia muchos otros mundos nuevos.

Uno de ellos es el pasillo de juguetes, y eso conlleva riesgos aterradores. Como padre, la idea de que su hijo tenga acceso casi sin filtros a lo mejor (y lo peor) de internet parece un completo desacierto, y sin embargo, estamos viendo una proliferación de juguetes que pueden convertir los cuentos para dormir en auténticos cuentos de hadas de los hermanos Grimm.

Por eso hablamos con Aron Gupta, un emprendedor que fundó con éxito empresas en el sector de la moda y la tecnología wearable. Pero al pasar tiempo con su familia, empezó a reflexionar sobre cómo la tecnología podía no solo entretener a los niños, sino también educarlos y fomentar su creatividad.

Gupta se reconectó con su socio técnico, Robert Whitney, y comenzaron a trabajar en la creación de Stickerbox , un dispositivo autónomo que usa IA para permitir que los niños describan las imágenes que imaginan (prácticamente cualquier cosa) y las vean en la pantalla monocromática del frente antes de imprimirlas a pedido.

El diseño recuerda al antiguo Etch a Sketch, y las pegatinas están impresas en una impresora térmica incorporada, lo que significa menos desorden y los niños pueden colorearlas como quieran.

El concepto es simple, y he descubierto que ya ha dejado de ser un fenómeno común y está ganando popularidad. Hace poco, cuando hablaba de la Stickerbox con una amiga del Reino Unido con niños pequeños, me dijo: "¡Ah, esa pegatina de Etch-a-Sketch AI! ¡Tengo muchísimas ganas de una!".

Aunque supongo que quiso decir que lo quería para sus hijos, demuestra que la IA es secundaria aquí: la capacidad de crear cosas tangibles con tu voz es algo que enciende el entusiasmo, no que tenga el aprendizaje automático en el núcleo.

Una nueva generación de juguetes

Stickerbox parece haber sido diseñado, construido y funciona en claro contraste con otros juguetes de IA del mercado. Los más problemáticos se ofrecen como amigos y confidentes de tu hijo.

Escuchan constantemente todo lo que se dice en el entorno e incluso pueden manipular a los niños. Se han visto ejemplos de juguetes con inteligencia artificial que les indican a los niños cómo encontrar armas y cerillas.

Y ahí está el conflicto: las herramientas de IA pueden fomentar la capacidad de asombro y la creatividad en los niños, permitiéndoles hacer cosas que antes eran imposibles. Pero esa oportunidad también conlleva un riesgo increíble, y la razón por la que hablamos con Gupta es simple: ¿cómo se puede crear un juguete que ofrezca los beneficios de la IA sin los peligros que conlleva el acceso?

Un estudio publicado recientemente por PIRG destacó enormes preocupaciones sobre los juguetes basados ​​en el acceso a LLM como ChatGPT de OpenAI, y la forma en que, incluso si hay barreras de protección, se pueden eludir.

Entonces, ¿en qué se diferencia Stickerbox?

“Comenzamos con una pregunta muy simple: ¿qué pasaría si la IA estuviera diseñada para niños?”, dice Gupta.

Creo que Bob y yo, cuando fundamos esta empresa, nos inspiramos mucho en las redes sociales y su impacto en las generaciones más jóvenes. Las redes sociales, como todos sabemos, se crearon con la mecánica de un casino, diseñadas para darte esa dosis de dopamina, diseñadas para maximizar la interacción y brindarte el máximo servicio.

Pero luego tomas eso y piensas en ese modelo para niños y… esto no encaja del todo bien. No hay redes sociales realmente diseñadas para niños. Y creo que ocurre lo mismo con la IA.

Por lo tanto, Stickerbox se diseñó para aprovechar el poder creativo de la IA y, al mismo tiempo, ser seguro para los niños. Cuenta con tres factores de seguridad específicos: el dispositivo solo escucha cuando se pulsa el botón del micrófono; existen estrictas normas de seguridad para el contenido de salida; y los padres pueden supervisar completamente las creaciones de sus hijos en la aplicación que lo acompaña.

La caja no permitirá que los niños visualicen desnudez, sangre, violencia o sangre, ya que Gupta dijo que la compañía quería "equivocarse en lo seguro en lugar de lo menos seguro, ya que estamos empezando".

Stickerbox se conecta a internet para acceder a la IA, pero es un sistema propietario, en lugar de aprovecharse de OpenAI, como hacen muchas otras empresas. Desarrollar su propio LLM permitió a Hapiko integrar lo que Gupta llama «cuellos de botella»:

“Tenemos muchas barandillas integradas en la caja en este momento y es mucho software propietario, pero básicamente puedes pensarlo de esta manera simple: hay un sistema donde el niño dice una instrucción, la instrucción se traduce en texto, el texto se traduce en una imagen y la imagen regresa.

En ese proceso, hay múltiples puntos críticos. Está el punto crítico donde se crea el texto, y se puede escanear su contenido. Luego, se puede aplicar un filtro de seguridad. Luego, está la indicación que va del texto a la imagen, y se puede escanear para ver qué se está reproduciendo en la imagen.

Stickerbox enseña a los niños una lección importante sobre cómo construir sus instrucciones para el motor de inteligencia artificial. Cuando la pegatina no es exactamente lo que imaginaban, deben pensar en cómo editar su mensaje para obtener el resultado deseado.

Si bien puedes hacer lo mismo con cualquier chatbot, el elemento de impresión requiere que conectes hardware y necesita la guía de un padre para supervisar el proceso y, potencialmente, que explique algunos temas delicados.

Profundizamos en el futuro de esta caja: cómo la recibieron tanto los padres como los maestros, cómo superaron algunos desafíos y preguntas iniciales, y qué podría deparar el futuro en este espacio de juguetes de inteligencia artificial en rápido crecimiento… y cómo Hapiko tuvo que dejar de lado algunas características para llevar este producto al mercado de manera segura.

Los juguetes con inteligencia artificial dan miedo, pero esta pequeña caja roja promete una solución apareció primero en Digital Trends .