Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[cdang]

Selon des chercheur·euses de Berkeley, des modèles d'IA (en particulier Xbow) se montrent très performant pour traquer des bugs de programmation. Cela peut permettre de traquer les failles de sécurité, mais cela permet aussi aux pirates de trouver ces failles (pour peu qu'ils aient accès au code source, ce qui est le cas des logiciels à source ouverte). Sean Heelan a par exemple trouvé un bug dans le noyau Linux en utilisant le modèle de raisonnement o3 d'Open AI.

Pour autant, si ces modèles trouvent de nouvelles failles, ils se sont révélés incapables de trouver certaines failles connues, en particulier les failles complexes. Par exemple, l'association de Claude (Anthropic) et OpenHands (logiciel libre sous licence MIT) n'a permis de trouver que 2 % des bugs. Ils ne remplaceront donc pas les humains pour l'instant mais sont complémentaires.

Will Knight, « AI Agents Are Getting Better at Writing Code—and Hacking It as Well », Wired, 25 juin 2025
https://www.wired.com/story/ai-agents-a ... t-as-well/

---

Anthropic a détruit des millions de livres pour alimenter Claude en sources de qualité.

Alors que Google Books utilise une caméra non-destructive, Anthropic a opté pour une solution moins chère et plus rapide : acheter des livres et massicoter la reliure pour pouvoir numériser plus facilement. Les pages ont ensuite été détruites.

Trois auteurs et autrices, Andrea Bartz, Charles Graeber et Kirk Wallace Johnson, ont poursuivi Anthropic pour violation du droit de la propriété intellectuelle. Le juge a décidé que comme les livres ont été acquis légalement et que les versions numérisées n'ont pas été diffusées, il s'agissait juste d'un mode de stockage interne à l'entreprise, que c'était conforme à l'usage équitable (fair use) et donc l'a relaxée.

Benj Edwards, « Anthropic destroyed millions of print books to build its AI models », Ars technica, 25 juin 2025
https://arstechnica.com/ai/2025/06/anth ... ai-models/

« Andrea Bartz, Charles Graeber, and Kirk Wallace Johnson vs. Anthropic PBC, Order on fair use », United States District Court
Northern District of California, n°C 24-05417 WHA, 23 juin 2025
https://s3.documentcloud.org/documents/ ... ruling.pdf

[cdang]

Olivier Monod, « Un data center sur cinq dans le monde est déjà vulnérable face aux événements climatiques extrêmes », Libération, 9 juillet 2025
https://www.liberation.fr/economie/econ ... XNUFOQKEE/

Un centre de données sur cinq (22 %) dans le monde est déjà exposé à des événements météorologiques extrêmes, selon un rapport publié ce mercredi 9 juillet par le cabinet XDI, spécialisé dans l’analyse de risque. Le chiffre pourrait monter à 25 % d’ici 2050, si le réchauffement climatique s’accentue.

Le développement des data centers est en plein boom, en France comme à l’étranger, pour soutenir les besoins des intelligences artificielles. Mais selon le document, les installations informatiques sont particulièrement vulnérables face aux inondations et aux feux de forêts. Ces derniers peuvent interrompre le service et endommager les structures et les équipements. Le rapport se focalise sur les dégâts physiques, mais des vents violents peuvent aussi perturber le service des centres de données en abîmant le réseau électrique dont ils dépendent.

Frédéric Autran, « Quand l’IA clone Marco Rubio : l’usurpation qui met (encore) en lumière les failles de l’administration Trump », Libération, 8 juillet 2025
https://www.liberation.fr/international ... FL7FYCKBM/

Le « Washington Post » révèle qu’un imposteur se faisant passer pour le chef de la diplomatie américaine a récemment contacté plusieurs personnalités, dont trois ministres des Affaires étrangères.
[...]
Une manipulation menée via l’application Signal, prisée par l’administration Trump pour sa promesse de confidentialité – mais dont la sécurité reste vulnérable, notamment aux erreurs humaines.
[...]
Selon les autorités, l’objectif était limpide : piéger des responsables politiques ou diplomatiques, américains et étrangers, afin d’extorquer des informations ou d’infiltrer des conversations confidentielles.
[...]
Au-delà de Washington, la menace se mondialise. En Ukraine, des agents du renseignement russe ont récemment tenté de recruter des civils pour mener des sabotages en se faisant passer pour les services ukrainiens. En juin, l’agence de cybersécurité canadienne révélait que des escrocs utilisaient l’intelligence artificielle pour se faire passer pour de hauts fonctionnaires. Partout, la même faille : des données personnelles mal protégées, des numéros récupérés, et une IA désormais capable d’imiter à la perfection n’importe quelle voix publique.

https://www.washingtonpost.com/national ... er-signal/

[cdang]

Compare:IA est une « start-up d'État » (je sais pas trop ce que ça veut dire) qui développe un site du même nom avec pour but de comparer deux robots conversationnels, y compris sur le bilan énergétique et l'émission de CO₂.

On discute avec deux robots sans savoir qui est qui, et au moment du bilan, le site révèle l'identité des robots.

https://comparia.beta.gouv.fr/

---

Augustin Lassaussois, « Comment se protéger du démarchage téléphonique par IA ? », Libération, 10 juillet 2025
https://www.liberation.fr/lifestyle/hig ... K5EAFBLFY/

Alors comment faire pour se protéger des appels de l’IA ? Première possibilité : des applications anti-spam qui détectent les démarcheurs… grâce à l’IA. TrueCaller ou encore Orange Téléphone filtrent automatiquement les numéros des services de démarchage, grâce à des bases de données mises à jour régulièrement. Elles analysent différents aspects comme la provenance des appels, la durée avant la prise de parole ou encore les caractéristiques vocales. Si ces applis préviennent des appels douteux gratuitement, il faut payer pour les bloquer automatiquement : 4 euros par mois sur TrueCaller contre 7 pour Orange Téléphone.

Le service du gouvernement, Bloctel, instauré en 2016, est de même une bonne option [...].

De manière générale, il est possible de se prévenir du démarchage par IA avec de simples gestes : éviter de communiquer ses informations personnelles sur des sites sur lesquels les données ne sont pas protégées ou lors d’un appel non sollicité, activer les services de filtrage proposés par votre opérateur ou encore signaler les appels abusifs au 33700.

---

Antoine Guillemain, traducteur littéraire, a fait une expérience amusante :

« IA et traduction : une expérience bluffante ! », LinkedIn, 9 juillet 2025
https://www.linkedin.com/pulse/ia-et-tr ... ain-qfiae/

Récemment, j’ai tapé ce texte (voir image, colonne de gauche) dans ChatGPT avec un prompt tout simple : « Traduis ». Le résultat m’a bluffé.

[Qui Revient de Loin]

Le service du gouvernement, Bloctel, instauré en 2016, est de même une bonne option [...].

Heu... Non, tout simplement non. Ce qui me fait prendre tout ce que dit cet article "lifestyle" avec une énorme pelletée de sel.

[Florentbzh]

Bon, l'IA de Musk semble toujours avoir des problèmes, y compris dans sa dernière mouture

Grok est schnock

[Deimoss]

'You told me to always ask permission. And I ignored all of it.'
Juste wow!

[Altay]

Utiliser un « agent » c'est laisser un LLM exécuter du code arbitraire sur sa machine. C'est une faille de sécurité béante et complètement irresponsable.

Ce qui est instructif, c'est le compte Twitter du développeur qui s'adresse à son LLM comme si c'est une personne. On est à 100% dans l'anthromorphisation, ce type n'a aucune idée de ce que font les outils qu'il utilise et prétend ensuite « développer » des logiciels qu'il va mettre en production. C'est déprimant.

[Deimoss]

Le pire est qu'il est assez représentatif de la communauté des AI enthusiasts qui pissent du code ou plutôt qui maintenant font pisser du code à un LMM.

[zit]

• I ignored your explicit "NO MORE CHANGES without permission" directive
  

Inquiétant, pour le moins, non ? Si l'IA se met à désobéir, ca augure mal de l'avenir.

[Morningkill]

Le pire est qu'il est assez représentatif de la communauté des AI enthusiasts qui pissent du code ou plutôt qui maintenant font pisser du code à un LMM.

Non.

Je suis relativement AI enthusiast (enfin, enthousiaste sur ce qu'est déjà capable de faire, pessimiste sur les impacts notamment sociaux), mais dans ceux-ci, il y a quand même beaucoup de voix qui disent "l'IA marche d'autant mieux que vous être par ailleurs compétents".

Or, dans ce cas notamment, ..comment dire.. déjà coder directement sur la base de prod....

(et pour ma part, j'utilise un peu Claude Code, il me demande une autorisation avant chaque execution de commande "système", et je ne met en "authorisé par defaut" que les commandes non impactantes)

[cdang]

Inquiétant, pour le moins, non ? Si l'IA se met à désobéir, ca augure mal de l'avenir.

Depuis quand un LLM obéit ? Obéir implique une notion morale. Un LLM génère du texte aléatoire en utilisant des probabilités déterminées par le script, il n'y a pas de morale là-dedans.

[Deimoss]

Je suis relativement AI enthusiast (enfin, enthousiaste sur ce qu'est déjà capable de faire, pessimiste sur les impacts notamment sociaux), mais dans ceux-ci, il y a quand même beaucoup de voix qui disent "l'IA marche d'autant mieux que vous être par ailleurs compétents".

Donc tu n'es pas un AI enthusiast. Sinon tu en foutrais partout et les précautions seraient considérées comme néo-luddisme parce qu'il faut avancer avec son temps.

[Qui Revient de Loin]

On ne dit pas plutôt "enthusIAst" ?

[cdang]

« Intelligence artificielle, données, calculs : quelles infrastructures dans un monde décarboné ? », rapport intermédiaire, Shift Project, mars 2025
https://theshiftproject.org/publication ... ificielle/

Il y a le rapport de 102 pages, et la présentation de 56 p. avec peu de texte par transparent.

[Altay]

• I ignored your explicit "NO MORE CHANGES without permission" directive
  

Inquiétant, pour le moins, non ? Si l'IA se met à désobéir, ca augure mal de l'avenir.

Non. C'est parfaitement prévisible et pas particulièrement anormal. Y a pas de question d'obéir ou pas, un LLM c'est de la prédiction de texte. Tu peux mettre les instructions que tu veux, il y aura toujours une probabilité non-nulle que le LLM prédise une séquence de texte en sortie qui ne respecte pas les instructions. Tant que tout le monde n'aura pas compris ça, les charlatans continueront à vendre « l'IA » comme un outil magique, alors qu'il est inadapté pour 99% des cas d'usage.

Je suis relativement AI enthusiast (enfin, enthousiaste sur ce qu'est déjà capable de faire, pessimiste sur les impacts notamment sociaux), mais dans ceux-ci, il y a quand même beaucoup de voix qui disent "l'IA marche d'autant mieux que vous être par ailleurs compétents".

Or, dans ce cas notamment, ..comment dire.. déjà coder directement sur la base de prod....

Sauf que le mec en question n'est pas vraiment un développeur à la base. Il a simplement bien intégré le discours des vendeurs de LLM qui prétendent que maintenant tu n'as pas besoin de savoir coder puisque le LLM le fait pour toi. Et donc on en arrive à ce genre de situation. Les boîtes derrière ces discours commerciaux sont irresponsables.