ChatGPT i GPT-4 već imaju milijune korisnika u svijetu, jezične modele koriste se na očekivane i manje očekivane načine, a njihov kreator, organizacija OpenAI, i dalje ih poboljšava i nadograđuje. U tom smjeru ide i najnoviji potez – otvaranje “bug bounty” programputem kojeg će biti nagrađeni svi koji otkriju kakvu sigurnu ranjivost u tim sustavima.
Hakiranje umjetne inteligencije
Sigurnosni stručnjaci i istraživači, bijeli hakeri, testeri penetracije i svi ostali entuzijasti, koji se u tome žele okušati, od sada mogu pokušati “napasti” OpenAI-jeve sustave. Budu li u tome uspješni, bit će i novčano nagrađeni. Visina nagrada ovisit će o ozbiljnosti otkrivenog propusta, pa će tako za pronalaske nedostatke manjeg značaja nagrada biti 200 dolara, dok će za iznimno bitna i velika otkrića “bugova” biti rezervirana najveća nagrada, u iznosu od 20.000 dolara.
Otkrića propusta moraju, kako je to uobičajeno, biti u skladu s politikom i pravilima “bug bounty” natječaja, moraju biti na ispravan način prijavljena, ali i zadržana u tajnosti sve dok ih javno ne otkrije sam OpenAI-jev sigurnosni tim. Propuste se mogu tražiti u ChatGPT-u, njegovim API-jima, vanjskim aplikacijama i ostalim javno dostupnim uslugama OpenAI-ja.
Za nadobudne amaterske “istražitelje” tu je i napomena kako se u propuste neće računati, primjerice, situacija kada netko natjera jezični model da mu odgovori nešto ružno ili neprimjereno, napiše im maliciozni programski kod ili “halucinira”, tj. izmišlja činjenice – što, vidjeli smo do sada, nije rijetkost.
Više o temiIzvor:Bug.hr
