OpenAI, créateurs de ChatGPT, s'engagent à développer des systèmes d'IA sûrs

OpenAI a publié un nouvel article de blog s'engageant à développer une intelligence artificielle (IA) sûre et bénéfique pour tous.

ChatGPT, alimenté par le dernier modèle de OpenAI, GPT-4, peut améliorer la productivité, stimuler la créativité et offrir des expériences d'apprentissage personnalisées.

Cependant, OpenAI reconnaît que les outils d'IA présentent des risques inhérents qui doivent être pris en compte grâce à des mesures de sécurité et un déploiement responsables.

Voici ce que l'entreprise fait pour atténuer ces risques.

Garantir la sécurité des systèmes d'IA

OpenAI effectue des tests approfondis, cherche des conseils externes auprès d'experts et affine ses modèles d'IA grâce aux retours des humains avant de publier de nouveaux systèmes.

La sortie de GPT-4, par exemple, a été précédée de plus de six mois de tests pour garantir sa sécurité et son adéquation aux besoins des utilisateurs.

OpenAI estime que les systèmes d'IA robustes doivent faire l'objet d'évaluations de sécurité rigoureuses et soutient la nécessité de réglementation.

Apprentissage à partir de l'utilisation réelle

L'utilisation dans le monde réel est un élément essentiel dans le développement de systèmes d'IA sûrs. En publiant prudemment de nouveaux modèles à une base d'utilisateurs en expansion progressive, OpenAI peut apporter des améliorations qui résolvent des problèmes imprévus.

En proposant des modèles d'IA via son API et son site web, OpenAI peut surveiller les abus, prendre des mesures appropriées et développer des politiques nuancées pour équilibrer les risques.

Protéger les enfants et respecter la vie privée

OpenAI met l'accent sur la protection des enfants en exigeant une vérification d'âge et en interdisant l'utilisation de sa technologie pour générer du contenu nuisible.

La confidentialité est un autre aspect essentiel du travail d'OpenAI. L'organisation utilise des données pour rendre ses modèles plus utiles tout en protégeant les utilisateurs.

De plus, OpenAI supprime les informations personnelles des jeux de données d'entraînement et affine les modèles pour rejeter les demandes d'informations personnelles.

OpenAI répondra aux demandes de suppression d'informations personnelles de ses systèmes.

Amélioration de l'exactitude des faits

L'exactitude factuelle est un objectif important pour OpenAI. GPT-4 a 40% de chances supplémentaires de produire un contenu précis par rapport à son prédécesseur, GPT-3.5.

L'organisation s'efforce d'informer les utilisateurs sur les limites des outils d'IA et la possibilité d'inexactitudes.

Recherche et Engagement Continus

OpenAI croit en consacrant du temps et des ressources à la recherche de techniques d'atténuation et d'alignement efficaces.

Cependant, cela n'est pas quelque chose qu'il peut faire seul. La résolution des problèmes de sécurité exige un débat approfondi, une expérimentation et un engagement entre les parties prenantes.

OpenAI reste engagé à favoriser la collaboration et le dialogue ouvert pour créer un écosystème de l'IA sûr.

Critiques concernant les risques existentiels

Malgré l'engagement d'OpenAI à garantir la sécurité et les avantages généraux de ses systèmes d'IA, son article de blog a suscité des critiques sur les réseaux sociaux.

Les utilisateurs de Twitter ont exprimé leur déception, affirmant qu'OpenAI ne parvient pas à aborder les risques existentiels associés au développement de l'intelligence artificielle.

Un utilisateur de Twitter a exprimé sa déception, accusant OpenAI de trahir sa mission initiale et de se concentrer sur une commercialisation irresponsable.

L'utilisateur suggère que l'approche de OpenAI en matière de sécurité est superficielle et se préoccupe davantage de satisfaire les critiques que de répondre aux risques existentiels réels.

C'est profondément décevant, vide et une simple façade de relations publiques.

Vous ne mentionnez même pas les risques existentiels liés à l'IA qui sont la préoccupation centrale de nombreux citoyens, technologues, chercheurs en IA et leaders de l'industrie de l'IA, y compris votre propre PDG @sama.@OpenAI trahit sa...

— Geoffrey Miller (@primalpoly) 5 avril 2023

Un autre utilisateur a exprimé son insatisfaction quant à l'annonce, arguant qu'elle passe sous silence de réels problèmes et qu'elle reste vague. L'utilisateur souligne également que le rapport ignore des problèmes éthiques critiques et des risques liés à la conscience de soi de l'IA, ce qui laisse entendre que l'approche d'OpenAI en matière de problèmes de sécurité est insuffisante.

En tant que fan de GPT-4, je suis déçu par votre article.

Il survole les problèmes réels, reste vague et ignore les questions éthiques cruciales et les risques liés à la prise de conscience de l'IA.

J'apprécie l'innovation, mais ce n'est pas la bonne approche pour aborder les questions de sécurité.

— FrankyLabs (@FrankyLabs) 5 avril 2023

La critique souligne les préoccupations plus larges et le débat en cours sur les risques existentiels posés par le développement de l'IA.

Tout en soulignant l'engagement d'OpenAI en matière de sécurité, de confidentialité et de précision, il est essentiel de reconnaître la nécessité d'une discussion plus approfondie pour aborder des préoccupations plus importantes.