Front uni de Geoffrey Hinton et Musk contre la structuration d’OpenAI

Encode, une organisation à but non lucratif défendant la sécurité de l’intelligence artificielle (IA), s’est alliée à Elon Musk pour s’opposer à la transformation d’OpenAI en société à but lucratif. Cette initiative est également soutenue par Geoffrey Hinton, , surnommé le « parrain de l’intelligence artificielle ». Il s’est rallié à Elon Musk dans son action en justice visant à empêcher OpenAI de devenir une société à but lucratif. Ce dernier a récemment déclaré qu’il y avait « 10 % à 20 % de chances que l’IA entraîne l’extinction de l’humanité dans les 30 prochaines années ».

Encode, le groupe de défense des droits des jeunes, et Geoffrey Hinton, le lauréat du prix Nobel et du Prix Turing connu comme le « parrain de l’IA » ont décidé de soutenir Elon Musk dans son projet de bloquer le changement d’OpenAI en entreprise à but lucratif.

Un front uni contre la structuration d’OpenAI

Fondée en 2015, OpenAI a voulu changer son statut d’organisation à but non lucratif en entreprise à but lucratif. Elon Musk s’est immédiatement opposé à cette idée. En novembre 2024, il a déposé une injonction préliminaire en vue de bloquer cette métamorphose d’OpenAI.

Ayant déjà bénéficié du soutien de Meta Plateforms Inc  et de son fondateur Marc Zuckerberg, le PDG de Tesla vient d’obtenir l’appui d’Encode et du parrain de l’IA, Geoffrey Hinton.

De son côté, OpenAI défend sa position et appelle le tribunal à rejeter la plainte de Musk. L’organisation a dévoilé des échanges de courriels datant de 2017, où Musk aurait lui-même soutenu l’idée de transformer OpenAI en entité lucrative. OpenAI accuse Musk de chercher un avantage compétitif pour sa propre entreprise d’IA, xAI Corp.

Encode partage l’ inquiétude de Musk et met en garde contre les conséquences potentielles :

« Aujourd’hui, une poignée d’entreprises monopolise le développement de l’IA, récoltant les bénéfices tout en externalisant les risques pour l’humanité entière », a déclaré Sneha Revanur, fondatrice d’Encode.

Un changement dangereux selon le parrain de l’IA

Encode, a contribué à l’échec du projet de loi californien sur la sécurité de l’Intelligence artificielle SB 1047. Il a déposé un mémoire d’amicus curiae pour soutenir Elon Musk et SpaceXCorp dans ce combat juridique.

Dans ce document, le groupe de défense des droits des jeunes a indiqué qu’en devenant une entreprise à but lucratif, OpenAI risque de ne pas pouvoir honorer son engagement qui est de privilégier la sécurité publique. Elle sera obligée de penser aux intérêts de ses investisseurs.

Selon l’organisation, le passage d’OpenAI à un modèle lucratif mettrait en péril son engagement historique envers la sécurité publique.

Geoffrey Hinton, fervent défenseur d’une IA éthique, a souligné dans un communiqué :

« OpenAI a été fondée comme une organisation à but non lucratif, avec un engagement clair envers la sécurité. Renier ces principes en devenant une société à but lucratif envoie un message dangereux à l’ensemble de l’écosystème. »

Sa restructuration pourrait l’empêcher d’agir comme il se doit. Notons que Hinton a déclaré à BBC Radio 4 que l’IA pourrait « provoquer l’extinction de l’humanité » dans les 30 prochaines années. Il estime qu’il est nécessaire de prendre des mesures de protection lors du développement de cette technologie, ce qui fait partie de la mission d’OpenAI.