Google planea lanzar su chatbot de inteligencia artificial Gemini la próxima semana para niños menores de 13 años que tienen cuentas de Google administradas por los padres, ya que las compañías tecnológicas compiten para atraer a los usuarios jóvenes con productos de inteligencia artificial.
“Las aplicaciones de Gemini pronto estarán disponibles para su hijo”, dijo la compañía en un correo electrónico esta semana a los padres de un niño de 8 años. “Eso significa que su hijo podrá usar Géminis” para hacer preguntas, obtener ayuda de la tarea y inventar historias.
El chatbot estará disponible para niños cuyos padres usan Enlace familiarun servicio de Google que permite a las familias configurar Gmail y optar por servicios como YouTube para su hijo. Para inscribirse en una cuenta infantil, los padres proporcionan a la compañía tecnológica datos personales como el nombre y la fecha de nacimiento de su hijo.
Géminis tiene específico barandas para usuarios más jóvenes Para impedir que el chatbot produzca cierto contenido inseguro, dijo Karl Ryan, un portavoz de Google. Cuando un niño con una cuenta de enlace familiar usa Gemini, agregó, la compañía no usará esos datos para capacitar a su IA
La introducción de Gemini para niños podría acelerar el uso de chatbots entre una población vulnerable a medida que escuelas, colegios, empresas y otros lidian con los efectos de las tecnologías de IA generativas populares. Entrenados en grandes cantidades de datos, estos sistemas pueden producir texto humano e imágenes y videos de aspecto realista.
Google y otros desarrolladores de chatbot de IA están bloqueados en una competencia feroz para capturar usuarios jóvenes. Presidente Trump recientemente instó a las escuelas a adoptar las herramientas para enseñar y aprender. Millones de adolescentes ya están usando chatbots como ayudas de estudio, entrenadores de escritura y compañeros virtuales. Los grupos de niños advierten que los chatbots podrían presentar riesgos graves para la seguridad infantil. Los bots también a veces inventan cosas.
UNICEF, la Agencia de Niños de las Naciones Unidas y otros grupos de niños han señalado que el Los sistemas de inteligencia artificial podrían confundir, desinformar y manipular Los niños pequeños que pueden tener dificultades para entender que los chatbots no son humanos.
“La IA generativa ha producido contenido peligroso”, dijo la oficina de investigación global de UNICEF en una publicación sobre riesgos y oportunidades de IA para los niños.
Google reconoció algunos riesgos en su correo electrónico a las familias esta semana, alertando a los padres de que “Gemini puede cometer errores” y sugiriendo que “ayuden a su hijo a pensar críticamente” sobre el chatbot.
El correo electrónico también recomendó que los padres enseñen a su hijo cómo verificar las respuestas de Géminis de hechos. Y la compañía sugirió que los padres recuerden a su hijo que “Géminis no es humano” y “no ingresa información sensible o personal en Géminis”.
A pesar de los esfuerzos de la compañía para filtrar material inapropiado, agregó el correo electrónico, los niños “pueden encontrar contenido que no desea que vean”.
Con los años, los gigantes tecnológicos han desarrollado una variedad de productos, características y salvaguardas para adolescentes y niños. En 2015, Google Presentó niños de YouTubeuna aplicación de video independiente para niños que es popular entre las familias con niños pequeños.
Otros esfuerzos para atraer a los niños en línea han provocado preocupaciones de los funcionarios gubernamentales y los defensores de los niños. En 2021, Meta Stoved planea presentar un servicio de Instagram Kids, una versión de su aplicación de Instagram destinada a aquellos menores de 13 años, después de que los fiscales generales de varias docenas se enviaran una carta a La compañía que decía que la empresa había “históricamente no pudo proteger el bienestar de los niños en sus plataformas”.
Algunas empresas tecnológicas prominentes, incluidas Google, Amazon y Microsoft -También han pagado multas multimillonarias para resolver las quejas gubernamentales de que violaron la Ley de Protección de Privacidad en línea de los niños. Esa ley federal requiere que los servicios en línea dirigidos a los niños obtengan el permiso de un padre antes de recopilar información personal, como una dirección de vivienda o una selfie, de un niño menor de 13 años.
Bajo el lanzamiento de Géminis, los niños con cuentas de Google administradas por la familia inicialmente podrían acceder al chatbot por su cuenta. Pero la compañía dijo que alertaría a los padres y que los padres podrían manejar la configuración de chatbot de sus hijos, “incluyendo apagar el acceso”.
“Su hijo podrá acceder pronto a las aplicaciones Gemini”, dijo el correo electrónico de la compañía a los padres. “También le avisaremos cuando su hijo acceda a Géminis por primera vez”.
El Sr. Ryan, el portavoz de Google, dijo que el enfoque para proporcionar Gemini para los usuarios jóvenes cumplió con la ley federal de privacidad en línea para niños.
