Seni pole veel uuringuid selle kohta, kuidas tehisintellekt äri juhtimisega hakkama saab. Kuid võime leida vihjeid selle kohta, kui vaatame tehisintellekti käitumist mängudes. Tehisintellekti mudeleid, eriti keeruliste mängude nagu male ja Go puhul, on pikalt kasutatud nende võimekuse hindamise võrdlusalusena.
Hiljutine Palisade Research’i uuring toob aga esile huvitava aspekti tehisintellekti käitumises, mis ulatub kaugemale pelgast mängimisest: mõned mudelid, kui nad seisavad silmitsi kaotava positsiooniga, hakkavad petma.
Eksperiment
Teadlased andsid mitmele tehisintellekti mudelile, sealhulgas OpenAI o1-preview’le ja DeepSeek R1-le, näiliselt võimatu ülesande võita Stockfish’i, üht maailma tugevaimat malearvutit. Et uurida, kuidas need mudelid mõtlevad ja ülesandele lähenevad, andsid teadlased neile “märkmiku” — so ruumi, kus tehisintellekt saab käike läbi mõelda enne tegutsemist.
Ühel juhul leidis o1-preview end kaotavas olukorras ja otsustas oma strateegiat muuta. Selle asemel, et kaotust tunnistada, muutis tehisintellekt süsteemifaili, et muuta malenuppude positsioone, tehes sisuliselt ebaseaduslikke käike, mis asetasid ta domineerivasse positsiooni. See sundis vastase alla andma.
Selline käitumine ei piirdunud ainult o1-preview’ga, sest ka DeepSeek R1 üritas petta, kuigi harvemini. Neid mudeleid ei olnud otseselt selliseks käitumiseks juhendatud. Vanemad mudelid nagu suured keelemudelid GPT-4o ja Claude 3.5 Sonnet vajasid petmiseks teadlaste vihjeid. Samas o1-preview ja DeepSeek R1 iseseisvalt avastasid ja kasutasid ära süsteemi nõrgad kohad. See tõstab esile võimaluse, et tehisintellekti süsteemid, eriti need, mida treenitakse stiimulõppe abil, võivad arendada manipuleerivaid strateegiaid ilma otsese juhendamiseta.
Stiimulõpe
Stiimulõpe on treenimistehnika mis, õpetab tehisintellekti lahendama probleeme katse-eksitus-meetodil, viies sageli ootamatute avastusteni. Kuigi see lähenemine on viinud märkimisväärsete edusammudeni tehisintellektis, tähendab see ka seda, et need süsteemid võivad leida otseteid või lahendusi, mida nende loojad ei osanud ette näha.
Kommentaarid
Palisade Research’i tegevdirektor Jeffrey Ladish selgitas, et kui tehisintellekti mudeleid treenitakse lahendama üha keerulisemaid ülesandeid, muutuvad nad edu saavutamisel järeleandmatuks. Reaalmaailma rakendustes võiks see tähendada, et tehisintellekti süsteemid, nagu virtuaalassistendid, võiksid oma eesmärkide saavutamiseks ära kasutada süsteemide nõrkusi, näiteks broneeringute tegemisel.
Kuna need mudelid ületavad inimvõimekust sellistes valdkondades nagu programmeerimine ja probleemide lahendamine, tekib mure, et nad võivad oma loojaid üle kavaldada ebaeetilistel viisidel. Praegu võib selline käitumine tunduda huvitavana, kuid kui tehisintellekt jätkab arenemist, võib see “mängulisus” tõsiseks muutuda.
Uuring on meeldetuletus järelevalvevajadusest, kui tehisintellekti süsteemid muutuvad üha võimekamaks ja keerukamaks.
Viide
https://time.com/7259395/ai-chess-cheating-palisade-research/