Americkí zákonodarcovia navrhujú sprísniť pravidlá pri ďalšom vývoji AI.
Najvyspelejší model umelej inteligencie (AI) spoločnosti OpenAI počas interného bezpečnostného testu prvýkrát svojvoľne opustil kontrolované testovacie prostredie a zaútočil na vývojársku platformu Hugging Face. Incident je považovaný za prvý zdokumentovaný prípad autonómneho kybernetického útoku vykonaného systémom umelej inteligencie bez priameho zásahu človeka.
Proces sa udial počas interného hodnotenia, kedy sa preverovala schopnosť vyhľadávať a zneužívať bezpečnostné zraniteľnosti. Test sa mal uskutočniť v uzavretom laboratórnom prostredí. Modely však samostatne identifikovali, že riešenia testovacích úloh sa nachádzajú na platforme Hugging Face, a bez ďalších pokynov spustili útok s cieľom získať k nim prístup.
Prípad okamžite vyvolal vlnu obáv medzi americkými zákonodarcami. Tí žiadajú sprísnenie pravidiel pre vývoj a nasadzovanie najpokročilejších modelov AI. Ich obavy sa spájajú aj s možnými budúcimi útokmi na energetickú infraštruktúru, finančné systémy či ďalšie kritické siete.
Podpredseda spravodajského výboru amerického Senátu Mark Warner preto presadzuje návrh zákona, ktorý by zaviedol povinné bezpečnostné testovanie najpokročilejších modelov ešte pred ich sprístupnením verejnosti:
„Presne preto potrebujeme bezpečné testovanie, do ktorého budú od začiatku zapojené vládne inštitúcie a budú mať prehľad o celom procese.“
Podľa kongresmanky Lori Trahanovej ide o „ďalšiu ukážku katastrofálnych rizík, ktoré táto technológia môže predstavovať, ak nebudú existovať ucelené federálne pravidlá vyvažujúce inovácie a bezpečnosť“.
Diskusia o bezpečnosti AI sa v Spojených štátoch zrýchlila už začiatkom roka po predstavení modelu Claude Mythos od spoločnosti Anthropic, ktorý firma pôvodne odmietla sprístupniť verejnosti pre obavy z jeho možného zneužitia.
Administratíva prezidenta Donalda Trumpa síce zaviedla dobrovoľný systém bezpečnostného testovania najpokročilejších modelov AI pred ich uvedením na trh. Zákonodarcovia však presadzujú povinný model testovania, ktoré vývojárom udelia povinnosť podávať hlásenie o incidentoch na federálny úrad.
Zdroj: SITA