Character.AI remplacera les discussions ouvertes par des « histoires » interactives pour les enfants

Character.AI a annoncé mardi le lancement de « Stories », un nouveau format permettant aux utilisateurs de créer des histoires interactives avec leurs personnages préférés . Cet outil remplace les chatbots de l'entreprise, inaccessibles depuis cette semaine aux moins de dix-huit ans.Cette modification fait suite aux inquiétudes croissantes concernant les risques potentiels pour la santé mentale que représentent les chatbots d'IA capables d'interagir avec les utilisateurs 24 h/24 et 7 j/7. Des entreprises comme Character et OpenAI ont fait l'objet de nombreuses poursuites judiciaires, notamment concernant leur implication présumée dans des suicides d'utilisateurs . Au cours du mois dernier , Character a progressivement restreint l'accès des mineurs à ses services , et depuis mardi, ces derniers ne peuvent plus du tout communiquer avec ses personnages d'IA .

L'importance des personnages a considérablement augmenté ces dernières années grâce à la fiction interactive . Cette évolution de l'IA est logique. Cependant, elle pourrait ne pas suffire à satisfaire les consommateurs devenus trop dépendants des chatbots, d'où l'importance des personnages . L'IA a de bonnes raisons de limiter l'accès aux chatbots .

Les réactions sont partagées sur le subreddit Character.AI . Certains adolescents expriment dans leurs commentaires que, même s'ils sont déçus , ils pensent que c'était finalement la bonne décision .

La fonctionnalité Stories est moins problématique sur le plan psychologique que les jeux de rôle avec des chatbots, mais on ignore encore comment les adolescents l'utiliseront . Contrairement aux Stories , les chatbots peuvent envoyer des messages spontanés, même lorsque les utilisateurs n'utilisent pas activement l'application, et engager des discussions directes et ouvertes avec eux .

La Californie est devenue le premier État américain à réglementer les compagnons IA , au moment même où l'IA impose un contrôle d'âge pour l'accès aux chatbots . Une loi fédérale visant à interdire totalement les compagnons d'IA aux mineurs a été déposée par les sénateurs Josh Hawley (R-MO) et Richard Blumenthal (D-CT).

Les experts soulignent également que l'encadrement des IA conversationnelles pourrait devenir une norme mondiale. Plusieurs pays envisagent déjà des mesures similaires, cherchant à protéger les mineurs des risques liés à l'attachement émotionnel aux chatbots et aux dépendances comportementales.