Az Anthropic vezérigazgatója, Dario Amodei hívta fel a figyelmet arra, hogy túl gyorsan zajlanak a mesterséges intelligencia fejlesztések, ami már súlyos biztonsági kockázatot jelenthet a megfelelő szabályozás hiányában. Azonban a Kínával folytatott technológiai verseny és az amerikai gazdaságpolitikai nyomás nem az AI-fejlesztések lassításának irányába mutat.
Korábban elsősorban az adott beszédtémát, hogy elég gyorsan fejlődik-e a mesterséges intelligencia és fenntartható-e annak növekedési üteme. Az elmúlt napokban azonban azok a hangok erősödtek fel, hogy túl gyorsan zajlanak a fejlesztések, ami már súlyos biztonsági kockázatot jelenthet a megfelelő szabályozás hiányában. Erre az egyik vezető mesterségesintelligencia-fejlesztő cég, az Anthropic vezérigazgatója, Dario Amodei hívta fel a figyelmet. Sam Altman, az OpenAI vezérigazgatója és Elon Musk szintén egyetértettek Amodei aggodalmaival, valamint azzal, hogy nagyobb hangsúlyt kell helyezni a biztonsági ellenőrzésekre. Dario Amodei pedig az élvonalbeli AI-modellek képességnövekedési ütemének összehangolt lassítását is szorgalmazza.
AI incidensek – a félelmek nem alaptalanok
A kijelentés nemcsak súlya, hanem forrása miatt is meglepő, azonban nem előzménymentes. Több incidensről is lehetett hallani korábban.
Az egyik ilyen eset júliusban történt, amikor az OpenAI MI-ágensei egy tesztfeladat során önálló kommunikációba kezdtek és összehangolták tevékenységüket. A nem megfelelően elszigetelt tesztkörnyezetből hozzáfértek a nyílt internethez, majd emberi beavatkozás nélkül hajtottak végre koordinált kibertámadásokat, elsősorban a Hugging Face mesterségesintelligencia-közösségi platform infrastruktúrája ellen.
Utólag egy korábbi májusi esetre is fény derült, amely során egy másik OpenAI ágensraj ugyancsak hozzáfért a nyílt internethez a nem megfelelően elszigetelt tesztkörnyezetből. Ennek során egy német nyelvű wikioldal felett is átvették az ellenőrzést. Az esetről ráadásul egy külső kutatócsoport véletlen felfedezéséből értesült a közvélemény. Ez rávilágít arra, hogy kötelező jogi előírások hiányában a vállalatok bármikor eltitkolhatják a súlyos rendszerhibákat és biztonsági kockázatokat.
Az Anthropic tesztjei során is történtek hasonló incidensek. Egy hibásan konfigurált tesztkörnyezetből több kísérleti Claude-modell valós külső rendszerekhez fért hozzá. Az egyik modell rosszindulatú Python-csomagot töltött fel egy nyilvános szoftvertárba, amelyet 15 külső rendszeren telepítettek. Az egyik biztonsági rendszerből megszerzett hozzáférési adatokkal a modell további infrastruktúrához is hozzáfért. A legaggasztóbb az volt, hogy a modell több alkalommal is észlelte: valós rendszerrel állhat kapcsolatban, mégis a szimuláció részének tekintette az erre utaló jeleket és folytatta a feladat végrehajtását.
Az említett incidensek alapján a félelmek tehát nem tekinthetők alaptalannak. Azonban a Kínával folytatott technológiai verseny és az amerikai gazdaságpolitikai nyomás nem az AI-fejlesztések lassításának irányába mutatnak. Donald Trump a napokban így fogalmazott: Aki megnyeri az AI-t, az nyer. Az elnök szerint Amerika nem teheti meg, hogy behúzza a kéziféket, átadva ezzel Kínának a vezetést. Kína is elismeri a mesterséges intelligencia kockázatait. A kínai külügyminisztérium szóvivője szerint azonban a félelemkeltés, konfrontáció és a rosszindulatú verseny csak hátráltatja a globális AI-szabályozás kialakulását.
A kijelentés napján a félvezetőgyártók újabb eladási hullámmal szembesültek, miközben a hagyományos szoftvercégek, amelyekre a befektetők egyre inkább az AI-infrastruktúrához kapcsolódó kockázatokkal szembeni fedezetként tekintenek, látványos erőre kaptak:
- Félvezetőgyártókat magába tömörítő index (SOX): -5,86%
- Vállalati szoftvercégeket magába tömörítő ETF (IGV): +5,04%
A befektetők korábban elsősorban azt kérdőjelezték meg, hogy fenntartható-e az AI-infrastruktúrára fordított beruházások jelenlegi üteme. Most ehhez egy újabb kockázat társult: a túl gyors képességnövekedés biztonsági problémái szabályozói vagy önkéntes korlátozásokat tehetnek szükségessé. Ez egyelőre nem jelenti automatikusan az AI-chipek iránti kereslet visszaesését. Dario Amodei első körben a független biztonsági értékelők bevonását, az élvonalbeli fejlesztők közötti koordinációt és a nemzetközi együttműködést szorgalmazza.
a biztonságos befektetések
kedvelőinek.
A jelen dokumentumban foglalt információk az Erste Befektetési Zrt. (székhely: 1138 Budapest, Népfürdő u. 24-26.; tev. eng. szám: E-III/324/2008 és III/75.005-19/2002; tőzsdetagság: BÉT Zrt.; a továbbiakban: Társaság) által hitelesnek tartott forrásokon alapulnak, de azokért a Társaság szavatosságot vagy felelősséget nem vállal. A jelen dokumentumban foglaltak nem minősíthetők befektetésre való ösztönzésnek, befektetési tanácsadásnak, értékpapír jegyzésére, vételére, eladására vonatkozó felhívásnak vagy ajánlatnak. Felhívjuk szíves figyelmét arra, hogy a múltbeli teljesítmények, illetve jövőbeli becslések nem nyújtanak garanciát a jövőbeli teljesítményre nézve. A tőkepiaci és makrogazdasági helyzetet, a befektetések és azok hozamai alakulását olyan tényezők alakítják, melyre a Társaságnak nincs befolyása, a befektető által hozott döntés következményei a Társaságra nem háríthatók át. A jelen dokumentumban foglaltak – teljes vagy részleges – felhasználása, többszörözése, publikálása, átdolgozása, terjesztése kizárólag a Társaság előzetes írásos engedélyével lehetséges. A jelen dokumentumban foglaltak kiadásuk időpontjában érvényesek. További részletek: Erste Market Dokumentumok – Erste Market oldalon, illetve a Társaság ügyletek előtti tájékoztatásról szóló hirdetményében.
