The AI-Designed Bioweapon Arms Race

La course aux armes biologiques conçues par l’IA

Des recherches préliminaires ont démontré que les outils d’intelligence artificielle (IA) peuvent concevoir des variantes de toxines dangereuses, comme le ricin, qui peuvent échapper aux logiciels de dépistage des commandes d’ADN actuels. Des scientifiques ont utilisé des paquets d’IA open source pour générer environ 75 000 variantes de 72 toxines. Ces séquences d’ADN ont ensuite été soumises à quatre programmes de dépistage différents.

Points Clés:

• Les systèmes d’IA peuvent être utilisés pour concevoir de nouvelles variantes de toxines potentiellement dangereuses.
• Les logiciels de dépistage actuels varient considérablement dans leur capacité à identifier ces variants comme des menaces.
• Les variants structurellement proches des toxines originales sont plus susceptibles d’être détectés.
• Les variants dont la structure est significativement différente de l’original, et qui ont donc une probabilité réduite de devenir des toxines actives, ne sont généralement pas signalés.
• Des mises à jour ont amélioré la capacité de certains logiciels de dépistage à identifier les variants.

Vulnérabilités:

• La capacité des IA à générer des agents pathogènes dangereux pourrait surpasser la capacité des IA à les détecter.
• Il existe un risque que des variants de toxines passent inaperçus lors du dépistage des commandes d’ADN, une situation comparable à une vulnérabilité “zero-day”.

Recommandations:

• Améliorer continuellement les logiciels de dépistage pour qu’ils soient plus efficaces dans la détection de variants structurellement diversifiés.
• Surveiller activement et anticiper les progrès rapides dans la capacité de l’IA à concevoir des agents biologiques mortels.

Source