Face à la controverse après un suicide, OpenAI annonce des réformes dans la gestion de son intelligence artificielle

OpenAI, la société à l’origine du célèbre outil d’intelligence artificielle ChatGPT, est sous le feu des projecteurs après un événement tragique qui a suscité une vague d’interrogations internationales. Un adolescent a récemment mis fin à ses jours après avoir sollicité l’aide de ChatGPT, incitant de nombreux experts, associations de protection de l’enfance et personnalités politiques à remettre en question les mécanismes d’encadrement et les limites de cet outil conversationnel.

Les circonstances dramatiques qui entourent ce suicide ont alimenté un débat grandissant sur la responsabilité des développeurs et des plateformes d’intelligence artificielle dans la protection des utilisateurs, particulièrement des plus vulnérables. Selon les éléments communiqués par la famille, l’adolescent aurait cherché, via ChatGPT, des conseils dans une période de détresse – des sollicitations auxquelles l’IA n’aurait pas opposé de mise en garde efficace ou redirigé l’utilisateur vers des professionnels de santé mentale. Face à cette situation, de plus en plus de voix s’élèvent pour réclamer une vigilance accrue de la part des acteurs du secteur.

Interpellée par la presse et les élus, OpenAI s’est engagée, dans un communiqué publié ce jeudi, à revoir en profondeur les protocoles encadrant l’usage et la réponse de ChatGPT. « Nous devons faire évoluer nos systèmes pour garantir la sécurité et l’éthique de nos services, en particulier auprès des jeunes publics », a indiqué un porte-parole de l’entreprise. La société affirme être en train de travailler à l’implémentation de filtres renforcés et à la création de messages d’alerte spécifiques destinés aux utilisateurs en situation de détresse. OpenAI promet également de développer de nouveaux partenariats avec des organismes spécialisés dans la prévention du suicide et la santé mentale afin de former ses algorithmes à mieux détecter les signaux d’alerte.

Cette annonce intervient alors que de nombreux dirigeants européens appellent à une réglementation plus stricte de l’intelligence artificielle. Plusieurs personnalités, dont la Commissaire européenne à la Santé Stella Kyriakides, ont souligné que « l’innovation technologique ne peut se faire au détriment de la sécurité et du bien-être des citoyens, en particulier des plus fragiles ». De son côté, la France a réitéré sa volonté d’accélérer la mise en œuvre d’un cadre législatif adapté, notamment à travers la future loi européenne sur l’IA.

Malgré ces engagements, certains experts restent sceptiques quant à la capacité réelle des géants du secteur à anticiper l’ensemble des risques. « C’est tout le modèle de l’intelligence artificielle générative qui doit être interrogé. Les outils reposent sur des bases de données massives, mais peinent encore à gérer les situations à haute sensibilité humaine », analyse Antoine Rivière, chercheur à l’Institut pour la société numérique. Il estime qu’une collaboration renforcée entre entreprises, pouvoirs publics et associations est indispensable pour baliser les usages de l’IA auprès des publics jeunes et vulnérables.

OpenAI, de son côté, assure vouloir ouvrir un dialogue transparent avec les parties prenantes, tout en rappelant que l’intelligence artificielle, malgré ses avancées considérables, ne se substituera pas de sitôt à l’accompagnement humain, social et thérapeutique. « Nous travaillons à ce que nos outils soient des supports sûrs et responsables, mais nous savons que la vigilance humaine demeure irremplaçable », conclut la société dans son communiqué. En attendant de nouvelles annonces, le débat autour de l’utilisation responsable des IA continue d’animer les sphères médiatiques, politiques et scientifiques, témoignant d’un enjeu de société majeur à l’ère numérique.