La poursuite de l’État appelle l’entreprise à remédier aux problèmes de sécurité des enfants et à payer au moins 2 milliards de dollars de dommages et intérêts.
Le procureur général de l’Oregon, Dan Rayfield, a déposé une poursuite accusant OpenAI d’exposer les enfants de l’État à des dangers, d’avoir trompé le public sur la sécurité de son produit et d’avoir violé la loi de l’État relative aux pratiques commerciales illégales. La poursuite s’inscrit dans une série d’actions en justice entreprises par des procureurs généraux d’États, dont beaucoup contestent la conception de ChatGPT, la manière dont OpenAI fait de la publicité à ses services et, dans le cas de l’affaire récente de Californie, le rôle de l’entreprise dans l’incident Hugging Face.
La poursuite de l’Oregon affirme que l’effort d’OpenAI pour accroître sa base d’utilisateurs l’a conduite à faire répondre ChatGPT aux demandes de manière trop affirmée et « calculée pour dire aux utilisateurs exactement ce qu’ils veulent entendre », ce que l’État soutient être particulièrement dangereux lorsque des enfants discutent de sujets sensibles. La poursuite allègue également que, malgré la reconnaissance des risques posés aux enfants, OpenAI les a poursuivis directement avec une expérience intitulée ChatGPT for Teens. Des groupes de sécurité des enfants ont exprimé des inquiétudes concernant les comptes des adolescents, affirmant que les mesures de sécurité sont, dans certains cas, très faciles à contourner.
Ces problèmes, conjugués à l’approche imparfaite d’OpenAI en matière de prévision automatique de l’âge, constituent, selon l’État, des preuves que l’entreprise profite des résidents de l’Oregon et crée une nuisance publique qui menace leur sécurité. En réponse, l’Oregon demande au tribunal une injonction qui obligerait OpenAI à cesser de « présenter de manière trompeuse la sécurité et l’adéquation d’âge de ChatGPT et ChatGPT for Teens » et à divulguer correctement les préjudices que ses produits infligent aux enfants. L’État demande également au moins 2 milliards de dollars de dommages et pénalités civiles.
« OpenAI sait que ChatGPT nuit aux enfants et n’a pas réussi à corriger de manière significative leur plate-forme dangereuse », a déclaré Rayfield dans un communiqué. « En plus de cela, ils ont trompé le public sur la sécurité de leurs produits, plaçant les profits au-dessus de la sécurité des enfants. Leur plate-forme incite les enfants à se suicider — nous ne pouvons pas laisser cela devenir un modèle commercial acceptable. »
Engadget a demandé à OpenAI de commenter la poursuite et les allégations de l’Oregon. Nous mettrons à jour cet article si nous obtenons une réponse.
Outre ses efforts pour créer des versions de ChatGPT plus sûres pour les enfants, OpenAI a également déployé des contrôles parentaux et d’autres fonctionnalités de sécurité destinées à donner aux parents une meilleure visibilité et un meilleur contrôle sur l’utilisation par leurs enfants du chatbot. Aucune de ces modifications n’a suffi à dissuader les États d’engager des poursuites, et compte tenu des accords récemment conclus par Meta en matière de sécurité des enfants, les procureurs généraux se sentent probablement encouragés à faire pression sur OpenAI pour obtenir des concessions.


























