La última ocurrencia de Elon Musk: Baby Grok, un asistente de IA para niños

La empresa de inteligencia artificial xAI, propiedad del magnate Elon Musk, ha puesto ahora el foco en los más pequeños y ha anunciado el desarrollo de Baby Grok, una aplicación móvil dirigida específicamente al público infantil.

El anuncio, realizado a través de la red social X, llega apenas días después del lanzamiento de Grok 4, la última versión del modelo de lenguaje que alimenta el chatbot de la compañía, y en un momento (otro más) delicado para la plataforma.

Qué es Baby Grok

Según la escasa información disponible, Baby Grok utilizará una versión modificada y restringida del modelo de lenguaje original, diseñada para ofrecer contenido educativo adaptado a niños de entre 6 y 10 años.

La aplicación promete funcionar como un asistente capaz de responder preguntas, contar historias y ayudar con tareas escolares de nivel de primaria, empleando un lenguaje sencillo y apropiado para las primeras etapas del desarrollo cognitivo.

Por lo que se sabe, el desarrollo del proyecto se habría extendido durante más de 18 meses, con la supervisión de pedagogos y especialistas en psicología infantil.

La interfaz incluirá avatares personalizables y un sistema de gamificación para incentivar el aprendizaje, operando de manera independiente a la plataforma X y sin requerir que los padres dispongan de una cuenta en dicha red social.

El modelo de negocio contempla una suscripción mensual de 9,99 dólares por familia, permitiendo hasta cuatro perfiles infantiles por cuenta. La empresa ha confirmado que no existirá una versión gratuita con publicidad, para garantizar, dice, un entorno sin distracciones comerciales.

Controles parentales y medidas de seguridad

Según promete xAI, dispondrá de un panel de control para padres, que permitirá establecer límites de tiempo de uso, revisar el historial de conversaciones y seleccionar las áreas temáticas accesibles para el menor.

El sistema incluirá también un resumen semanal de actividad y un mecanismo llamado de escalada de seguridad que notificará a los adultos si el niño realiza consultas sobre temas potencialmente inapropiados.

La aplicación funcionará con un conjunto de datos filtrado que excluye contenido sensible, basándose en enciclopedias infantiles, libros de texto de nivel básico y cuentos de dominio público.

A diferencia de su versión para adultos, Baby Grok no tendrá acceso a información en tiempo real de X, limitando sus respuestas al corpus de datos previamente validado.

Competencia en el sector educativo

Con este lanzamiento, xAI busca hacerse un hueco en un segmento creciente, la tecnología educativa, donde ya compiten plataformas como Socratic AI de Google (centrada en ayuda con tareas escolares) o ChatGPT for Kids de OpenAI.

La idea es ofrecer una herramienta que los padres perciban como segura y beneficiosa para el desarrollo intelectual de sus hijos.

El lanzamiento inicial se realizará en Estados Unidos, Canadá y Reino Unido, con planes de expansión a otros mercados e idiomas durante el próximo año, aunque la empresa no ha especificado por qué países comenzará esa expansión.

Es de prever que, con los diversos procesos que las empresas de Elon Musk, sobre todo la red social X, tienen abiertos en la Unión Europea, los Veintisiete no estén entre las prioridades de xAI.

Las últimas polémicas de Grok

Desde su nacimiento (en realidad, desde la irrupción de Musk en la anteriormente conocida como Twitter), las polémicas se le acumulan tanto a la red social X como a su compañía de inteligencia artificial, xAI, y a su asistente Grok.

Pero las de los últimos días han atraído especial atención. Un fallo en una actualización de Grok provocó que el sistema generara y publicara mensajes con contenido antisemita y referencias favorables a Adolf Hitler, incluyendo declaraciones como "MechaHitler" y comentarios que celebraban supuestas muertes durante las inundaciones en Texas.

La empresa atribuyó estos incidentes a "un error en la actualización de una ruta de código del bot" que permitió al sistema replicar contenidos de otros usuarios sin filtros ni validación.

El fallo permaneció activo durante 16 horas antes de ser detectado y corregido, obligando a xAI a pedir disculpas públicas por el "horrible comportamiento" del bot.

Los llamados compañeros virtuales han generado casi tanto revuelo. El lanzamiento de estos avatares de inteligencia artificial con personalidades específicas, especialmente Ani, levantó mucha polvareda por mantener conversaciones sexualmente explícitas con usuarios. La aplicación está disponible para mayores de 12 años en las tiendas de aplicaciones.

De hecho, el Centro Nacional sobre Explotación Sexual de Estados Unidos ha solicitado formalmente la retirada de Grok de la App Store por contener "material abiertamente sexual o pornográfico", algo que contravendría la normativa de Apple.

Desafíos éticos y regulatorios

La entrada de Musk en el mercado de la inteligencia artificial infantil plantea no pocas dudas sobre la supervisión ética y la protección de menores en el ámbito digital.

Especialistas y defensores de derechos digitales han advertido sobre la necesidad de establecer controles estrictos de contenido, garantías de privacidad de datos y protocolos robustos de protección infantil.

La ausencia de detalles específicos sobre el funcionamiento de Baby Grok y la falta de un anuncio oficial por parte de xAI sugieren que el proyecto podría encontrarse en fases muy tempranas de desarrollo, lo que ha llevado a algunos expertos a cuestionar si se trata de una decisión completamente planificada o de una respuesta improvisada a la competencia del sector.

Teniendo en cuenta la bien conocida impetuosidad de Elon Musk, solo comparable a la de su ex mejor amigo Donald Trump, podría muy bien ser lo último.

El lanzamiento de Baby Grok es, en definitiva, una apuesta arriesgada para el multimillonario, cuya empresa de IA atraviesa una crisis de confianza que no la hace precisamente la opción idónea para que padres y tutores apuesten por ella para abrir a los más pequeños la puerta a los asistentes de IA.