Des chercheurs de l’Université Ben Gourion ont utilisé l’intelligence artificielle pour créer de faux cancers. Avec des conséquences dramatiques possibles
Des systèmes d’intelligence artificielle (IA) sont capables de composer des morceaux de musique, de créer des tableaux, de rédiger des romans ou encore d’écrire des articles. Ils sont désormais aussi en mesure de créer de fausses tumeurs cancéreuses sur des radiographies. La semaine passée, des chercheurs de l’Université israélienne Ben Gourion ont démontré comment l’IA peut créer de faux nodules cancéreux. Elle peut aussi en effacer de réels sur des clichés.
Les images, présentées ensuite à des radiologues, les ont trompés de manière efficace. Lorsqu’une image de faux cancer leur était montrée, les spécialistes le diagnostiquaient dans 99% des cas. Et lorsqu’une tumeur était effacée par l’IA, les radiologues se trompaient dans 94% des cas.
Les chercheurs ont montré comment il était facile de pénétrer dans des systèmes informatiques d’hôpitaux pour voler des images et ensuite les altérer, sans laisser de trace. Il serait ainsi possible de faire croire à une personnalité qu’elle est malade, ou qu’elle est en rémission alors que ce n’est pas du tout le cas. Un signal d’alarme à prendre très au sérieux par les hôpitaux pour qu’ils protègent beaucoup mieux leurs systèmes contre de telles attaques, certes sophistiquées, mais sans doute très efficaces.
Source www.letemps.ch
