Nouvelles

Sep 25, 2023

White Hat Hackers à l'Idaho State University protège les futurs systèmes d'IA des réacteurs nucléaires contre les cyberattaques

5 juin 2023 Contribuer à la sécurisation des systèmes automatisés qui feront fonctionner le

5 juin 2023

Aider à sécuriser les systèmes automatisés qui feront fonctionner les réacteurs nucléaires du futur incombe à un groupe de pirates informatiques de l'Idaho State University.

Récemment, Leslie Kerby, professeur agrégé d'informatique, et des chercheurs travaillant dans le laboratoire d'ingénierie informatique et de science des données de Kerby s'efforcent de percer des trous numériques dans les systèmes d'intelligence artificielle testés pour leur capacité à faire fonctionner de manière autonome des réacteurs modulaires avancés et petits.

"Les données sont la clé de tout système d'intelligence artificielle, quelle que soit leur utilisation, car ces systèmes fonctionnent en apprenant des modèles et des tendances dans les données", explique Pedro "Pepo" Mena, chercheur postdoctoral travaillant dans le laboratoire de Kerby. "La façon dont ils apprennent est probablement la principale raison pour laquelle les systèmes d'intelligence artificielle peuvent être vulnérables à une cyberattaque. En manipulant les données utilisées par le système, un mauvais acteur peut affecter la sortie du système et, par extension, affecter les décisions prises par le système. Juste alors que nous essayons de protéger nos données personnelles, les scientifiques des données doivent prendre des mesures pour protéger les informations utilisées par ces systèmes afin d'éviter qu'elles ne soient compromises."

Travaillant depuis leur laboratoire basé à Idaho Falls, Kerby et son prod l'IA sous trois angles : les attaques par inférence, la reprogrammation contradictoire et les attaques de chevaux de Troie. En commençant par l'attaque par inférence, ils procèdent à l'ingénierie inverse du système et ont une idée de ce avec quoi ils travaillent. À partir de là, ils peuvent corrompre ses données, forçant le système à "penser" différemment et à effectuer des actions pour des événements qui ne se produisent pas dans la réalité. La dernière façon dont ils testent le système est par une attaque de cheval de Troie. L'équipe remplacera le système par une version qui ressemble et se comporte principalement comme la version correcte, mais qui comporte quelques modifications du code qui entraînent des conséquences désastreuses.

"Les systèmes d'intelligence artificielle sont mis en œuvre dans de nombreux domaines, souvent sans comprendre pleinement les risques de sécurité qu'ils peuvent apporter", a déclaré Kerby. "De nombreux systèmes d'IA sont un système de boîte noire, ce qui signifie qu'ils produisent une sortie mais ne révèlent pas comment ils fonctionnent. Vous pouvez inciter ces systèmes à fournir des sorties incorrectes en apportant de petites modifications aux données que le système utilise."

"Quand je suis arrivé à l'ISU, je n'avais aucune idée de ce qui m'attendait", a déclaré Kallie McLaren, une senior d'Idaho Falls, Idaho. "J'ai toujours su que l'IA était un domaine très intéressant et en pleine croissance, mais je n'ai jamais vraiment pensé aux risques potentiels pour l'IA ni pensé à faire de la recherche pour des réacteurs nucléaires autonomes avant ce projet. Ce projet a été très instructif pour les avancées dans le monde réel et il est fascinant de voir à quel point de petits changements dans les données peuvent faire un grand changement dans les systèmes d'IA. C'est excitant de faire partie de l'un des domaines à la croissance la plus rapide, et j'ai adoré faire partie de cette équipe de recherche. "

L'équipe de l'État de l'Idaho collabore également avec des chercheurs du Laboratoire national de l'Idaho et de Georgia Tech. La recherche à l'État de l'Idaho est financée par près de 250 000 $ du Laboratoire national de l'Idaho et du Bureau de l'énergie nucléaire du Département américain de l'énergie.

"Lorsque nous aurons terminé ce projet, notre équipe devrait être en mesure de démontrer les risques de sécurité auxquels ces systèmes sont confrontés et de fournir quelques meilleures pratiques pour aider à déployer des systèmes d'intelligence artificielle plus sécurisés, en particulier dans le domaine de l'ingénierie nucléaire", a déclaré Kerby. "Sur le plan personnel, les étudiants travaillant sur ce projet acquerront des compétences précieuses et établiront des liens avec des leaders de l'industrie qui auront un impact positif sur leur carrière."

"Je ne savais pas ce que je voulais étudier quand je suis arrivé à l'ISU, mais je savais que je voulais faire quelque chose dans un domaine STEM", a déclaré Eric Hill, un senior spécialisé en génie mécanique avec une mineure en informatique d'Idaho Falls. . "J'ai choisi le génie mécanique comme spécialité, mais j'ai également suivi plusieurs autres cours qui ont piqué mon intérêt, dont plusieurs cours d'informatique du Dr Kerby. C'est ainsi que je me suis impliqué dans ce groupe de recherche, et travailler sur ce projet a été un excellent opportunité pour moi d'en apprendre davantage sur les domaines de l'informatique et de l'IA. Cela a renforcé mon intérêt à poursuivre ce type de recherche, et je suis honoré et reconnaissant de pouvoir travailler sur ce projet.

Pour plus d'informations sur le département d'informatique de l'Idaho State University, visitez isu.edu/cs.

Les futurs étudiants peuvent planifier une visite du campus sur isu.edu/visit.

Collège des sciences et de l'ingénierieActualités universitaires