Technologies : Des inquiétudes autour du développement de l’Intelligence artificielle
L’évolution technologique mondiale, atteignant son paroxysme avec le développement de l’Intelligence artificiel, commence à inquiéter la communauté de l’informatique. Des experts du secteurs se montrent anxieux du fait que l’IA pourrait résister à tout contrôle. Une situation potentiellement à risque pour l’humanité.
Une synergie d’action au plan mondial est vivement sollicitée dans le développement et la gouvernance de l’Intelligence Artificielle. L’appel a été lancé par un porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, qui a plaidé pour un renforcement sans délai des garde-fous pour éviter que l’intelligence artificielle ne devienne « incontrôlable ».
L’officiel chinois a appelé tous les pays à mettre en œuvre un véritable multilatéralisme, avec tous les pays travaillant ensemble pour construire un cadre de gouvernance mondial. Il a fait savoir qu’en interne la Chine s’attache à une politique de développement de l’IA dans un but positif et bénéfique pour tous. Ainsi le pays reste très exigeant sur le plan de la sécurité en raison des risques sérieux inhérents et secondaires liés à cette technologie. C’est ce qui a conduit l’édition de politiques, normes d’application et les règles éthiques afin de prévenir les abus et les utilisations détournées de l’IA, et de garantir que celle-ci soit sûre, fiable et contrôlable.
Précédemment, c’est le patron de la société américaine Anthropic, Dario Amodei, qui a appelé à ralentir le rythme auquel les capacités des modèles d’IA sont améliorées. Son inquiétude tient du fait que l’IA contribue désormais à fabriquer ses propres successeurs pour accélérer une course dont les dispositifs de sûreté ne suivent plus le rythme. Il parle explicitement des agents IA qui peuvent mener des cyberattaques contre des cibles qu’on ne leur avait pas demandé d’attaquer et qui n’avaient aucun rapport avec leur mission : « recursive self-improvement », estimant que cette dynamique « commence à se produire dans l’ensemble de l’industrie. Des cas d’intrusion, triche et de coordination secrète ont été rapportés, renforçant alors les inquiétudes d’un quelconque désalignement de l’IA. Dario Amodei estime qu’un essaim doté de capacités supérieures, peut provoquer des dégâts catastrophiques. Ces incidents font appel à une coordination mondiale pour bâtir un système juste et équitable de gouvernance mondiale, avec un esprit de responsabilité, interdisant des usages particulièrement dangereux.
