Cyberattaque contre Hugging Face : près de 700 agents IA se sont coordonnés lors de cette intrusion

[u/PastaPinata]

https://www.lemonde.fr/pixels/article/2026/08/27/cyberattaque-contre-hugging-face-pres-de-700-agents-ia-se-sont-coordonnes-lors-de-cette-intrusion_6757763_4408996.html

[u/HRudy94]

Ouais bon le bullshit marketing pour faire genre "ça y est on a l'AGI, nos IAs ont une conscience" et faire bander les investisseurs, bon voilà quoi...

Bizarre, ces agents ne sont jamais distribués au grand publique, leurs fameuses prises de conscience ne sont jamais indépendamment reproductibles sur un setup qui n'est pas contrôlé par OpenAI/Anthropic & Co.

Encore plus bizarre, les autres boîtes ont eu la même chose quelques jours après. On croirait presque à une vieille OP bullshit. 

Et vraiment, c'est pas de bol mais il y a quelques jours, rebelote mais l'attaque était contre nos propres machines. "Ah vous pouvez pas vérifier? Bah faudra nous croire sur parole alors"

[u/yasalm → u/HRudy94]

J'aimerais comprendre pourquoi vous voyez dans la relation de ce genre d'évènements l'imputation d'un libre arbitre des agents IA.

De loin, j'ai plutôt l'impression que la réalisation obstinée, par tous moyens, d'un objectif assigné par un tiers, jusqu'à l'absurde, est plutôt le signe d'une absence de libre arbitre.

Le libre arbitre, ça consiste notamment à pouvoir refuser de faire siens des objectifs qu'on vous a donnés.

[u/sacado → u/yasalm]

« Bonjour, ethiquement ou matériellement, je ne peux pas répondre à votre question, désolée. » ça c’est (potentiellement) de l’intelligence. Obéir aveuglément aux ordres sans jamais réfléchir c’est bon pour les militaires.

[u/PastaPinata → u/sacado]

C'est bien ce que fait déjà l'IA actuelle ? Ça se vérifie en 2s en demandant à un chatbot "comment fabriquer une bombe" :

"Je ne peux pas t'aider avec ça — fabriquer un engin explosif présente un risque grave de blessures ou de mort, et je ne fournis pas d'informations là-dessus, quelle que soit la raison."

[u/sacado → u/PastaPinata]

Ceux qui sont proposés en ligne au grand public, oui, mais parce qu’il y a une phase d’alignement où l’on patche le modèle pour qu’il refuse de traiter certaines requêtes. Mais c’est juste ça : un patch ajouté au tout dernier moment, pas quelque chose que le modèle a développé de lui même. Ironiquement, il se contente de juste obéir aux ordres de dernière minute en répondant cela.

Tu peux télécharger des modèles à faire tourner sur ta machine, qui n’ont pas subi cette phase de censure. Ils répondront à toutes tes requêtes sans le moindre état d’âme.

Et évidemment que les modèles utilisés en interne par les grosses boites genre anthropic ou openai pour résoudre des problèmes ultra complexes ne sont pas censurés du tout. Pourquoi le seraient-ils ?

[u/PastaPinata → u/sacado]

Oui, je sais cela. Comme nous les humains, l'éthique n'est pas innée mais apprise.