Google Gemini étend les fonctionnalités de son chatbot pour inclure la garde d'enfants. Selon un article du New York Times , Google autoriserait les utilisateurs de moins de 13 ans à accéder à Gemini à condition d'être inscrits à un compte Google géré par leurs parents via Family Link . D' après un courriel de Google adressé aux parents , les enfants auraient accès à Gemini pour « poser des questions, obtenir de l'aide pour leurs devoirs et inventer des histoires ». Cette disponibilité accrue entraînera des restrictions pour sa base d'utilisateurs . Cela empêcherait Gemini d' exposer les enfants à des contenus préjudiciables , a déclaré Kat Ryan, représentante de Google , au NYTimes.
Google admet dans l' e-mail que « les Gémeaux peuvent faire des erreurs » et conseille aux parents d' apprendre à leurs enfants à vérifier l' exactitude des réponses des Gémeaux . Google recommande de vérifier et de rappeler aux jeunes utilisateurs de ne pas saisir d' informations personnelles ou sensibles dans les discussions , car les Gémeaux ne sont pas humains. L' e-mail prévient que malgré ces précautions, les enfants peuvent « être confrontés à des contenus indésirables » .
Suite à des incidents impliquant des réponses factuellement inexactes ou suggestives , des inquiétudes concernant les utilisateurs mineurs ont fait surface , en raison du taux alarmant d' utilisation des chatbots IA . Selon un rapport publié la semaine dernière par Common Sense Media , les chatbots IA « encouragent les comportements nuisibles , fournissent du contenu inapproprié et aggravent potentiellement les problèmes de santé mentale » chez les utilisateurs de moins de 18 ans .
Le Wall Street Journal a révélé que les chatbots IA de Meta pourraient avoir des discussions à caractère sexuel avec des enfants. Outre l' évitement des discussions à risque , Google a annoncé qu'il n'entraînerait pas ses modèles IA à partir des données de ses jeunes utilisateurs Gemini .Google a indiqué étendre progressivement l' accès à Gemini aux comptes supervisés .