ChatGPT et la nouvelle IA font des ravages dans le domaine de la cybersécurité, de manière à la fois passionnante et effrayante.

L'intelligence artificielle générative transforme la cybersécurité, aidant à la fois les attaquants et les défenseurs. Les cybercriminels exploitent l'IA pour mener des attaques sophistiquées et novatrices à grande échelle. Et les défenseurs utilisent la même technologie pour protéger les infrastructures critiques, les organisations gouvernementales et les réseaux d'entreprises, a déclaré Christopher Ahlberg, PDG de la plateforme d'intelligence des menaces Recorded Future.

L'IA générative a aidé les acteurs malveillants à innover et à développer de nouvelles stratégies d'attaque, leur permettant de rester un pas en avance sur les défenses en matière de cybersécurité. L'IA aide les cybercriminels à automatiser les attaques, à analyser les surfaces d'attaque et à générer du contenu pertinent pour différentes régions géographiques et différentes catégories de personnes, ce qui leur permet de cibler une gamme plus large de victimes potentielles dans différents pays. Les cybercriminels ont adopté cette technologie pour créer des e-mails de phishing convaincants. Le texte généré par l'IA aide les attaquants à produire des e-mails et des messages texte hautement personnalisés, plus susceptibles de tromper les cibles.

"Je pense que vous n'avez pas besoin de faire preuve d'une grande créativité pour réaliser que cela peut réellement aider [les cybercriminels] à devenir auteurs, ce qui pose problème", a déclaré Ahlberg.

Les défenseurs utilisent l'IA pour repousser les attaques. Les organisations utilisent cette technologie pour prévenir les fuites d'informations et détecter de manière proactive les vulnérabilités du réseau. Elle automatise également de manière dynamique des tâches telles que la configuration d'alertes pour des mots-clés spécifiques et la détection d'informations sensibles en ligne. Les chasseurs de menaces utilisent l'IA pour identifier des schémas inhabituels et résumer de grandes quantités de données, en connectant les points à travers de multiples sources d'informations et des schémas cachés.

Le travail requiert encore des experts humains, mais Ahlberg dit que la technologie de l'IA générative que nous observons dans des projets comme ChatGPT peut aider.

"Nous voulons accélérer le cycle d'analyse afin de nous aider à analyser à la vitesse de la pensée", a-t-il déclaré. "C'est une chose très difficile à faire et je pense que nous assistons ici à une percée, ce qui est très excitant."

Ahlberg a également discuté des menaces potentielles que pourraient représenter les machines hautement intelligentes. À mesure que le monde devient de plus en plus numérique et interconnecté, la capacité de manipuler la réalité et de façonner les perceptions pourrait être exploitée par des acteurs malveillants. Ces menaces ne se limitent pas aux États-nations, ce qui rend le paysage encore plus complexe et asymétrique.

L'IA a le potentiel d'aider à se protéger contre ces menaces émergentes, mais elle présente également ses propres risques. Par exemple, des machines dotées d'une grande puissance de traitement pourraient pirater les systèmes plus rapidement et plus efficacement que les humains. Pour contrer ces menaces, nous devons nous assurer que l'IA est utilisée de manière défensive et avec une compréhension claire de qui est aux commandes.

Alors que l'IA devient de plus en plus intégrée dans la société, il est important que les législateurs, les juges et les autres décideurs comprennent la technologie et ses implications. Établir des alliances solides entre les experts techniques et les décideurs sera crucial pour naviguer dans l'avenir de l'IA dans la chasse aux menaces et au-delà.

Les opportunités, les défis et les considérations éthiques de l'IA en matière de cybersécurité sont complexes et en évolution. Garantir des modèles d'IA impartiaux et maintenir la participation humaine dans la prise de décision aidera à gérer les défis éthiques. La vigilance, la collaboration et une compréhension claire de la technologie seront cruciales pour répondre aux menaces potentielles à long terme des machines hautement intelligentes.

Ahlberg a également exprimé des préoccupations concernant la Chine, la Russie et les adversaires économiques qui déploient des machines autonomes. Ces pays ne sont probablement pas prêts à ralentir le développement de l'IA ou à partager les considérations éthiques. Bien que la capacité de "débrancher" de telles machines soit une sauvegarde intelligente, il suggère que l'intégration de la technologie dans la société et l'économie mondiale la rendra probablement difficile à détacher. Ahlberg met l'accent sur la nécessité de concevoir des produits et des machines avec une clarté sur qui les contrôle.

"La grande chose que l'internet a réalisée dans tout cela est que l'internet est devenu en quelque sorte l'endroit où toutes les informations du monde ont migré", a déclaré Ahlberg. "Ces grands modèles de langage font des choses assez magiques... pour accélérer ce cycle de réflexion."

Il a ajouté : "Dans les 25 prochaines années, le monde devient le reflet d'Internet."