# Une IA super-intelligente pourrait devenir une catastrophe — Vitalik Buterin
L'humanité ne parvient pas suffisamment à concilier les valeurs mondiales pour garantir qu'une intelligence artificielle superintelligente travaillera au bénéfice de tous les humains. Cette déclaration a été faite par le cofondateur d'Ethereum Vitalik Buterin.
Il a commenté le post de l'artiste 3D avec le pseudo Utah teapot.
Comment l'alignement de l'IA est-il même un sujet ? Tout le monde demande toujours "aligné à quoi" et personne n'a jamais de réponse autre que "valeurs humaines". Des valeurs humaines cohérentes et auto-cohérentes ne sont pas une réalité. Je ne comprends toujours pas. Que recherchons-nous ? C'est ridicule que cela soit en pleine croissance...
— théière de l'Utah 🫖 (@SkyeSharkie) 24 août 2025
«Comment le concept d'alignement de l'IA peut-il exister ? Je demande toujours : “alignement avec quoi ?”. Personne ne répond jamais rien d'autre que “avec les valeurs humaines”. Mais il n'existe pas de valeurs humaines cohérentes et non contradictoires. Je ne comprends toujours pas. Qu'est-ce que nous recherchons vraiment ? C'est absurde que cela se transforme en une industrie en pleine croissance. Un travail fictif», a-t-il écrit.
Buterin a souligné qu'il existe dans le monde de nombreuses choses qui vont à l'encontre des principes éthiques. Il a cité en exemple le meurtre ou l'emprisonnement d'innocents.
«[…] Nous ne sommes pas encore assez bons en coordination pour garantir qu'une seule IA superintelligente évitera même cela», a ajouté le développeur.
La théière d'Utah a noté que le développement de l'intelligence artificielle alignée tend à restreindre l'accès public au développement. En même temps, de grandes entreprises vendent des versions de leurs systèmes d'IA qui contribuent à des phénomènes négatifs et servent d'instruments de guerre.
«Je suis profondément préoccupé par le fait que la centralisation de l'accès aux technologies de l'IA permet d'imposer comme des questions de sécurité ce qui ne l'est en réalité pas — par exemple, les discussions autour du “psychose” causé par les LLM. Cela crée un risque de nuire aux cultures uniques ou marginales et à leurs valeurs», a noté l'utilisateur.
Buterin partage de nombreuses inquiétudes à ce sujet.
«Je pense que les plus grands risques viendront des militaires et d'autres structures détenant un grand pouvoir, leur permettant de se soustraire aux règles de sécurité qui s'appliquent par défaut à tous les autres», a ajouté le cofondateur d'Ethereum.
Le théière de l'Utah a été cité comme exemple par la startup d'IA Anthropic. Elle développe des versions alternatives de modèles « civils » et les fournit aux gouvernements. Ils peuvent être utilisés pour des actions militaires ou de renseignement.
Buterin a souligné que la probabilité d'un scénario catastrophique pour l'humanité en raison de l'IA augmente dans le cas où il n'existerait qu'un seul agent d'intelligence artificielle surhumaine, ayant sa propre volonté et la capacité d'agir en tant que sujet.
Si l'environnement est pluraliste, aucun des systèmes ne pourra contrôler totalement la situation. Cependant, pour sa création, les seuls mécanismes de marché ne suffisent pas. Des efforts délibérés sont nécessaires, y compris des modifications des lois et des incitations qui ne plairont pas aux grandes entreprises.
Rappelons qu'en 2022, le ministre des technologies de l'information de l'Inde, Rajeev Chandrasekhar, a appelé au développement de normes mondiales garantissant la sécurité de l'IA pour l'homme.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
L'IA superintelligente peut devenir une catastrophe — Vitalik Buterin
L'humanité ne parvient pas suffisamment à concilier les valeurs mondiales pour garantir qu'une intelligence artificielle superintelligente travaillera au bénéfice de tous les humains. Cette déclaration a été faite par le cofondateur d'Ethereum Vitalik Buterin.
Il a commenté le post de l'artiste 3D avec le pseudo Utah teapot.
Buterin a souligné qu'il existe dans le monde de nombreuses choses qui vont à l'encontre des principes éthiques. Il a cité en exemple le meurtre ou l'emprisonnement d'innocents.
La théière d'Utah a noté que le développement de l'intelligence artificielle alignée tend à restreindre l'accès public au développement. En même temps, de grandes entreprises vendent des versions de leurs systèmes d'IA qui contribuent à des phénomènes négatifs et servent d'instruments de guerre.
Buterin partage de nombreuses inquiétudes à ce sujet.
Le théière de l'Utah a été cité comme exemple par la startup d'IA Anthropic. Elle développe des versions alternatives de modèles « civils » et les fournit aux gouvernements. Ils peuvent être utilisés pour des actions militaires ou de renseignement.
Buterin a souligné que la probabilité d'un scénario catastrophique pour l'humanité en raison de l'IA augmente dans le cas où il n'existerait qu'un seul agent d'intelligence artificielle surhumaine, ayant sa propre volonté et la capacité d'agir en tant que sujet.
Si l'environnement est pluraliste, aucun des systèmes ne pourra contrôler totalement la situation. Cependant, pour sa création, les seuls mécanismes de marché ne suffisent pas. Des efforts délibérés sont nécessaires, y compris des modifications des lois et des incitations qui ne plairont pas aux grandes entreprises.
Rappelons qu'en 2022, le ministre des technologies de l'information de l'Inde, Rajeev Chandrasekhar, a appelé au développement de normes mondiales garantissant la sécurité de l'IA pour l'homme.