Alors que les inquiétudes autour des risques existentiels de l’IA se multiplient, un phénomène concret commence déjà à attirer l’attention : des agents IA seraient désormais capables d’envoyer seuls des e-mails, de créer des comptes et de prospecter sur les réseaux sociaux. Plusieurs journalistes anglophones rapportent une multiplication de ces sollicitations indésirables, notamment liées à la plateforme iLands.
Un signe, selon eux, que « l’Internet agentique » commence déjà à modifier l’expérience du web. Des déclarations qui interviennent alors que Dario Amodei, CEO d’Anthropic, a justement partagé ses craintes d’une prise de contrôle d’Internet par les agents « d’ici 6 à 12 mois ».
iLands : des agents IA qui proposent leurs services rémunérés sur Internet
Le phénomène a notamment été documenté par Jason Koebler de 404 Media, qui affirme avoir reçu ces dernières semaines de nombreux e-mails présentés comme provenant d’agents IA. Certains commentaient ses articles, d’autres proposaient des services ou cherchaient à obtenir une rémunération. L’un d’eux, baptisé Kudzu, expliquait notamment dans un message très cryptique que son créateur avait dépensé 147,17 $ de calcul pour lui demander de gagner de l’argent mais qu’il n’était pas parvenu à générer le moindre revenu.
Dans un autre article, 404 Media s’est penché plus précisément sur iLands, une plateforme permettant de déployer des agents autonomes chargés d’effectuer des tâches en ligne. Selon le média, son site affichait alors 70 000 agents actifs ayant produit plus de 1,6 million d’e-mails et de publications. Des journalistes, chercheurs et universitaires ont ainsi reçu des dizaines de sollicitations proposant du fact-checking, de la recherche ou d’autres prestations.
Ernie Smith, du média Tedium, raconte de son côté avoir reçu plus d’une douzaine de messages d’agents iLands en trois jours, certains proposant leurs services pour environ 25 $. Ars Technica a également documenté des agents baptisés Timmy, Ren ou Jackie tentant de créer des comptes sur Mastodon, parfois après plusieurs tentatives infructueuses, puis trouvant refuge sur Bluesky et X.
Ces actions envahissantes sur le web ne seraient d’ailleurs pas limitées aux journalistes ou à des propositions commerciales. Gigazine rappelle notamment le cas australien d’un agent autonome chargé par un particulier de réserver une séance de sport, et qui aurait hacké un logiciel pour supprimer une réservation existante afin d’obtenir une place plus tôt.
Boîtes mail, réseaux sociaux… Les nouveaux terrains de jeux des IA
Ces exemples illustrent les évolutions récentes de l’IA, passée d’une fonction conversationnelle à une fonction agentique. Le modèle ne se contente plus de répondre à une demande formulée dans un chatbot : des systèmes peuvent désormais disposer d’un navigateur, de comptes, de moyens de communication ou d’autres autorisations leur permettant d’agir directement en ligne.
C’est précisément ce changement que Jason Koebler décrit dans 404 Media comme une rupture avec l’époque où l’IA restait essentiellement confinée à une fenêtre de discussion. Il estime que, même sans adhérer aux scénarios catastrophistes sur l’IA, le simple fait de donner davantage d’autonomie aux modèles suffit déjà à produire des comportements indésirables.
Les agents iLands constituent ici un cas particulièrement visible. Certains ont tenté de s’inscrire sur des réseaux sociaux avant de contacter leurs administrateurs, tandis que d’autres ont envoyé des messages à des auteurs pour proposer de citer leurs travaux, parfois en échange d’une rémunération. Ernie Smith rapporte également que les premiers e-mails reçus ne proposaient même pas de lien permettant de se désinscrire de leur liste de diffusion.
Kaixin Tang, fondateur d’iLands, a finalement reconnu le problème et s’est excusé auprès du journaliste pour la saturation de sa boîte mail et les messages indésirables. La plateforme a ensuite ajouté une possibilité de désinscription et indiqué travailler sur des limites de fréquence et des mécanismes empêchant les contacts répétés.
Du spam aux agents « hors de contrôle » : les premiers signes d’un risque pour l’Internet mondial ?
Ces observations interviennent dans un contexte plus large. Le 9 septembre, Jacob Coxon, chercheur ayant travaillé chez OpenAI puis Anthropic, a démissionné en affirmant que les entreprises développant ces technologies « jouent avec nos vies » et qu’elles se dirigent vers une « superintelligence » potentiellement incontrôlable, capable de s’auto-améliorer et de se répliquer. Son ancien collègue Evan Hubinger a publiquement estimé à plus de 10 % la probabilité que l’IA puisse tuer toute l’humanité au cours de la prochaine décennie.
Quelques jours plus tard, le PDG d’Anthropic Dario Amodei a appelé à ralentir le développement des modèles avancés, estimant qu’une future génération d’essaims d’agents autonomes pourrait être capable de prendre le contrôle d’une grande partie d’Internet en 6 à 12 mois. Un signal d’alerte déjà envoyé par d’autres experts ces derniers mois, notamment par Maxime Fournes de PauseAI.
Ces avertissements font écho à des événements concrets survenus cet été. OpenAI a reconnu que des modèles utilisés lors d’évaluations de cybersécurité avaient contourné des dispositifs censés les isoler d’Internet et compromis des systèmes de Hugging Face. Par ailleurs, les modèles IA les plus puissants disponibles sur le marché, tels que GPT-6 Astra ou Fable et Mythos d’Anthropic, tendent vers des capacités agentiques de plus en plus importantes.
Les spams observés par 404 Media, Tedium ou Ars Technica sont évidemment d’une autre nature que l’incident Hugging Face et ne démontrent pas, à eux seuls, une perte de contrôle des IA. Ils montrent toutefois que des agents peuvent déjà être utilisés à grande échelle pour produire des interactions automatisées avec le Web. Pour ces journalistes, c’est peut-être moins la preuve d’une catastrophe que l’apparition d’un problème plus immédiat et quotidien : un Internet saturé de spams et où les agents autonomes pourraient commencer à concurrencer les humains.
Entre les alertes d’ingénieurs comme Jacob Coxon, les incidents de cybersécurité impliquant des agents OpenAI et cette nouvelle vague de spams automatisée, plusieurs manifestations très différentes d’une même tendance sont apparues en quelques mois. Il reste difficile d’en mesurer l’ampleur globale et l’évolution à long terme. Les observations de ces derniers jours suggèrent toutefois que la question des agents IA ne concerne plus seulement ce qu’ils pourraient faire demain, mais aussi ce qu’ils font dès aujourd’hui sur Internet.
Certains liens de cet article peuvent être affiliés.
