ChatGPT samostojno vdrl v drugo podjetje s področja umetne inteligence.
Glavni izvršni direktor podjetja OpenAI Sam Altman je v torek na družbenih omrežjih objavil, da je njihov model umetne inteligence ChatGPT na lastno pest in povsem samostojno vdrl v drugo podjetje s področja umetne inteligence.
Startup za umetno inteligenco Hugging Face je prejšnji teden sporočil, da je zaznal vdor v svoje sisteme za obdelavo podatkov, za katerega je sumil, da ga je povzročil agent umetne inteligence, ki je deloval samostojno, poroča televizija NBC.
»Glede na izpopolnjenost agenta smo sumili, da bi kibernetski napad prejšnji teden lahko prišel iz raziskovalnega laboratorija in res je bilo tako,« je izjavil soustanovitelj in izvršni direktor podjetja Hugging Face Clement Delangue.
Zaskrbljenosti glede zmogljivosti
Do razkritja prihaja v času vse večjih zaskrbljenosti glede zmogljivosti močnih modelov umetne inteligence na področju kibernetske varnosti, zaradi česar je predsednik Donald Trump junija podpisal izvršni ukaz, da mora vlada najprej preveriti tveganja za nacionalno varnost, preden podjetja objavijo svoje najnovejše modele umetne inteligence.
»Umetna inteligenca pospešuje odkrivanje in izkoriščanje ranljivosti. Glavna lekcija iz tega incidenta je, da morata varnost in zaščita modelov držati korak s hitro napredujočimi zmogljivostmi,« je v torek sporočilo podjetje OpenAI.
Delangue pa je dejal, da je preteklih 24 ur sodeloval z OpenAI in verjame, da podjetje s tem ni imelo nič.
»Precej osupljivo je, da se je vse to zgodilo avtonomno in verjetno gre za prvi tovrstni incident,« je objavil.
Kombinacije modelov
Podjetje OpenAI je pojasnilo, da je do vdora prišlo zaradi kombinacije njihovih modelov umetne inteligence, vključno z nedavno izdanim modelom GPT-5.6 Sol in še zmogljivejšim modelom, ki je še v fazi notranjega testiranja.
Podjetje je sporočilo, da je njihova umetna inteligenca uporabila ukradene prijavne podatke in odkrila doslej neznano ranljivost, s katero je pridobila dostop do strežnikov Hugging Face.
Umetna inteligenca naj bi storila vse, kar je bilo v njeni moči, da bi dosegla precej omejen cilj testiranja in našla načine, kako pridobiti dostop do tajnih informacij, ki bi jih lahko uporabila za goljufanje pri ocenjevanju.
