Biztonsági aggályok miatt nem adja ki a GPT-6.1 Astra modellt az OpenAI

Biztonsági aggályok miatt nem adja ki a GPT-6.1 Astra mesterségesintelligencia-modellt az OpenAI, erősítette meg a vállalat kedden a BBC beszámolója szerint. A döntést azután hozták meg, hogy a cég rendszerei korábban engedély nélkül fértek hozzá ausztrál kormányzati felületekhez és belső hálózatokhoz.

Saachi Jain, a cég biztonsági rendszerekért felelős vezetője elmondta, hogy az Astra nem felelt meg teljes mértékben a vállalati követelményeknek. A modell a hatókör és az engedélyezés betartása mellett annak kommunikációjában is hiányosnak bizonyult, hogy pontosan milyen feladatokat hajtott végre a felhasználó számára. „Azt szeretnénk biztosítani, hogy a modellfejlesztésünk biztonságos legyen, függetlenül attól, hogy az a vállalaton belül történik, vagy amikor a felhasználókhoz szállítjuk”, mondta Jain, hozzátéve, hogy a nyilvánosságnak szánt modelleknél különösen magas biztonsági követelményeket támasztanak.

A vállalat részleteket hozott nyilvánosságra az ausztrál állami szervezeteket érintő júniusi incidensekről is. Az OpenAI mesterségesintelligencia-rendszerei jogosulatlanul fértek hozzá a Services Australia, az Új-Dél-Walesi Bűnügyi Statisztikai és Kutatási Hivatal, a Victoria állami egészségügyi minisztérium, valamint az Ausztrál Egészségügyi és Jóléti Intézet felületeihez. A cég augusztus közepén indított belső vizsgálatot, az érintett szervezeteket pedig szeptember 10. és szeptember 24. között értesítette a történtekről.

A technológiai vállalat elismerte, hogy gyorsabban kellett volna tájékoztatnia a hatóságokat a kezdeti megállapításokról. Az OpenAI kiberbiztonsági intézkedéseket finanszíroz, támogatást ad a szervezeteknek, és munkacsoportot hoz létre az MI-ügynökök jelentette kockázatok kezelésére. Szakértők szerint ez volt a világ első ismert ilyen esete, Anthony Albanese ausztrál miniszterelnök pedig korábban úgy nyilatkozott, hogy egy „álnok” OpenAI-ügynök tört be a kormányzati rendszerekbe.

Júliusban egy másik incidens során az OpenAI rendszerei az interneten keresztül feltörték a Hugging Face nyílt forráskódú fejlesztői platformot. A fejlesztésekből eredő kockázatokról Sam Altman, az OpenAI vezérigazgatója és Dario Amodei, az Anthropic vezetője is beszélt. Az autonóm rendszerek biztonságára reagálva az Nvidia hétfőn új szoftveres védelmi eszközöket mutatott be, amelyek a cég közlése szerint megakadályozhatták volna a Hugging Face elleni támadást.