Seadus nõuab suurtelt tehisintellekti ettevõtetelt oma süsteemide ohutuse testimist enne nende avalikkusele vabastamist. Samuti annab seadus osariigi peaprokurörile õiguse kaevata tehisintellekti loojad kohtusse tõsiste kahjude eest, mida nende tehnoloogiad võivad põhjustada, nagu näiteks surm või varaline kahju.
California saab tehisintellekti tehnoloogia reguleerimise eeskujuks. Ameerika Ühendriikides on California sageli olnud osariikide seadusandluse pioneer. Mis Californias vastu võetakse, viiakse sageli üle teistesse osariikidesse või föderaalseadusandlusesse.
Hiljuti on Euroopa Liit välja lasknud tehisintellekti määruse, kuid Ameerika Ühendriikides seni puudusid analoogid, mis piiraksid riskantsema tehnoloogia, näiteks näotuvastustarkvara, kasutamist.
Elon Musk postitas X-is: raske otsus, kuid kõik asjaolud arvesse võttes ta toetab tehisintellekti regulatsiooni ja seaduseelnõu, arvestades tehnoloogia võimalikke riske avalikkusele.
Seaduse toetajad väidavad, et tehisintellektil on katastroofiline potentsiaal. Seda võiks kasutada biorelvade toetamiseks või demokraatlike valimiste ja valitsuste kukutamiseks desinformatsioonikampaaniate kaudu. Pooldajad väidavad osaliselt, et tehisintellekti tööriistad kujutavad endast märkimisväärseid ohte ja et föderaalvalitsus ei ole teinud piisavalt nende ohtude lahendamiseks, sealhulgas regulatsioonide kaudu.
SB 1047 põhineb eeldusel, et lähituleviku tehisintellekti süsteemid võivad muutuda äärmiselt võimsaks ja potentsiaalselt ohtlikuks, mistõttu on vajalik teatud järelevalve. See põhiidee on tehisintellekti teadlaste seas väga vaieldav.
Vastuseis seadusele on tulnud ettevõtetelt nagu Google ja Meta, ChatGPT looja OpenAI, idufirmade inkubaator Y Combinator ja Fei-Fei Li, president Joe Bideni nõunik ja Newsomi tellitud generatiivse tehisintellekti sümpoosioni kaasorganiseerija. Nad väidavad, et seaduse järgimise kulud kahjustavad tööstust, eriti idufirmasid, ja heidutavad avatud lähtekoodiga tehisintellekti tööriistade vabastamist, kuna ettevõtted kardavad seaduse alusel õiguslikku vastutust.
Enne vastuvõtmist California seaduseelnõu ka muudeti, et leevendada tehnoloogiasektori kriitikuid. Seadusandjad loobusid ettepanekust luua uus agentuur tehisintellekti ohutuse järelvalvamiseks. Samuti nõrgendati ettevõtete vastutust, nii et neid karistataks ainult tegelike kahjude eest, mitte võimalike kahjude eest.
Meta aga kordas oma vastuseisu pärast seda, kui seaduseelnõu California seadusandlikus kogus heaks kiideti, kirjutades, et seadusandlus “pidurdaks tehisintellekti arengut Californias, kahjustaks ettevõtete kasvu ja töökohtade loomist ning oleks vastuolus osariigi pikaajalise avatud lähtekoodiga innovatsiooni toetamise traditsiooniga. Sel seaduseelnõul on head kavatsused, kuid pole valmis veel seaduseks saama.”
Mitu Kongressi liiget, sealhulgas Nancy Pelosi, on kirjutanud hr Newsomile, hoiatades, et seadusandlus võib kahjustada tehisintellekti arengut. Nad ütlevad, et tehnoloogia on alles lapsekingades ja et on liiga vara otsustada, kuidas tehisintellekti süsteemid võiksid oma ohtu tekitada.
Seaduseelnõu vastased kardavad, et see võib pidurdada innovatsiooni ja lämmatada idufirmade arengut. Nad on väitnud, et see heidutaks tehnoloogiahiide jagamast oma tehisintellekti aluseks olevat tarkvarakoodi teiste ettevõtete ja tarkvaraarendajatega. Sellist tava tuntakse kui avatud lähtekoodi poliitikat.
Lisaks SB 1047-le on California seadusandlikus kogus töös eelnõud, mis nõuavad, et suured veebiplatvormid nagu Facebook eemaldaksid valimistega seotud deepfake’id. Samuti viitab see töögrupi moodustamisele, et anda koolidele juhiseid, kuidas tehisintellekti turvaliselt kasutada. Teine Californias töös olev tehisintellekti eelnõu on Tsiviilõiguste osakond, et võidelda automatiseeritud diskrimineerimise vastu, nõuda loomeinimestelt luba enne surnud inimese hääle, keha või näo kasutamist mis tahes vormis, ja täiendavad meetmed, et hoida valijaid kaitstud petlike deepfake eest.
Viited
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1047
https://www.nytimes.com/2024/08/28/technology/california-ai-safety-bill.html
https://calmatters.org/economy/technology/2024/08/ai-safety-bill-california-legislature/
https://www.vox.com/future-perfect/369628/ai-safety-bill-sb-1047-gavin-newsom-california