Tehisintellekti kujutav oht on viimastel nädalatel üha enam domineerinud peavoolu tele- ja raadiosaadetes. Hoiatused jõudsid pealkirjadesse esmakordselt eelmise aasta lõpus, kui ChatGPT-l oli vähem kui nädal pärast selle käivitamist üle miljoni kasutaja. Mure keskendus sel hetkel peamiselt ChatGPT võimele jäljendada inimeste reaktsioone, pakkudes koheselt vastuseid eksamiküsimustele, ülikooli esseedele ja isegi... uudised – ähvardades muuta eksamitulemused mõttetuks ja panna miljoneid sotsiaaltoetustele.
Oht saavutas haripunkti mai lõpus, kui tehisintellekti ohutuse keskus avaldas avaldus, millele kirjutasid alla sajad valdkonna juhtivad rahvusvahelised eksperdid, hoiatades, et tehisintellekt kujutab endast inimkonnale samaväärset eksistentsiaalset ohtu nagu pandeemiad ja tuumasõjad.
Tehisintellektist väljasuremisohu leevendamine peaks olema ülemaailmne prioriteet koos muude ühiskondlike riskidega, nagu pandeemiad ja tuumasõda.
Michael Osborne'i sõnul, Oxfordi ülikooli masinõppe professor ja Mind Foundry kaasasutaja, on suurim mure just väljasuremisoht.
„On tõesti tähelepanuväärne, et nii paljud inimesed sellele kirjale alla kirjutasid,“ ütles ta. „See näitab, et tehisintellekti valdkonnas töötavate inimeste seas on üha enam arusaamist eksistentsiaalsete riskide tõsistest probleemidest.“
„Kuna me ei mõista tehisintellekti eriti hästi, on väljavaade, et see võib mängida rolli omamoodi uue konkureeriva organismina planeedil, seega võib meie loodud invasiivne liik mängida meie liigina ellujäämisel laastavat rolli,“ ütles Osborne.
Tehisintellekti hulluse tipul kasutas Ühendkuningriigi peaminister Rishi Sunak järgmisel nädalal oma Washingtoni reisi, et reklaamida Suurbritanniat tehisintellekti reguleerimise globaalse keskuse rollis. otsima Joe Bideni toetust Ühendkuningriigis korraldatavale tehisintellekti ohutuse teemalisele ülemaailmsele tippkohtumisele.
President Biden rõhutas tehisintellekti „potentsiaali teha suurt kahju, kui seda ei kontrollita“, aga ka selle „potentsiaali ravida vähki“. „Sellel on tohutu potentsiaal ja me ootame Suurbritannialt abi selle jõupingutuse juhtimisel, et leida lahendus.“
Kuna kogu see hirmutamine on nüüd kindlalt keskendunud selle invasiivse uue "tulnukate" intellektiliigi paremusele, tundub ebaviisakas ja vandenõuteooria piiril olev küsimus, kas see võib olla mingi turunduskampaania, mille on välja mõelnud need nutikad suhtekorraldajad, kelle tehisintellekti tööstus on palganud oma toodete müügi edendamiseks.
Kas võib olla, et meid suunatakse valele poole vaatama ja suurim eksistentsiaalne oht meie liigina ellujäämisele ei tulene mitte tehisintellekti ülimast intelligentsusest, vaid selle räigest rumalusest?
Kui tehisintellekt on tõesti viieline üliõpilane, kes asendab inimesi igas mõeldavas valdkonnas ajakirjandusest meditsiini ja õiguse kaudu teaduse ja inseneriteaduseni, siis pole meil tegelikult millegi pärast eriti muretseda, peale selle, kuidas jagada kogu seda lisarikkust, mida see loob, ja mida me oma vaba ajaga peale hakkame.
Aga kui tehisintellekt pole nii hea, kui väidetakse, mis siis saab? Millist laastavat rolli saaks meie liigi ellujäämises mängida idiootlike ja vastutustundetute juhtide, meditsiinitöötajate, juristide, teadlaste ja inseneride armee?
Selle hüpoteesi kontrollimiseks viisime läbi järgmise vestluse ChatGPT-ga.
* * *
Kasutaja
Kui suremus on 0.0003%, siis milline on surma tõenäosus?
ChatGPT
Surma tõenäosuse määramiseks, kui suremus on 0.0003%, peate määra teisendama tõenäosuseks.
Suremuskordaja 0.0003% saab kümnendsüsteemis kirjutada kujul 0.000003 (0.0003 ÷ 100 = 0.000003). See tähistab surevate inimeste osakaalu populatsioonis. Selle tõenäosuseks teisendamiseks lahutage see 1-st, kuna sündmuse toimumise tõenäosus pluss selle mittetoimumise tõenäosus võrdub 1-ga.
Surma tõenäosus = 1 – 0.000003 = 0.999997
Seega on surma tõenäosus ligikaudu 0.999997 ehk 99.9997%.
Kasutaja
See ei ole loogiline. See tähendab, et mida madalam on suremus, seda suurem on surma tõenäosus.
ChatGPT
Vabandust segaduse pärast. Teil on õigus; minu eelmine vastus oli vale. Vabandust vea pärast.
Surma tõenäosuse arvutamiseks peame suremuse teisendama osakaaluks või tõenäosuseks. Suremuskordajat väljendatakse tavaliselt protsendina või 1,000 või 100,000 XNUMX inimese kohta.
Kui suremus on 0.0003%, saame selle kümnendmurruna väljendada, jagades selle 100-ga:
0.0003% = 0.000003
See näitab surevate inimeste osakaalu populatsioonis. Selle tõenäosuseks teisendamiseks saame lihtsalt kasutada kümnendväärtust.
Seega on suremise tõenäosus sel juhul 0.000003 ehk 0.0003%.
Kasutaja
Miks sa esimesel korral valesti aru said?
ChatGPT
Vabandan vea pärast oma esialgses vastuses. Tehisintellekti keelemudeli esindajana püüan pakkuda täpset teavet, kuid aeg-ajalt võib esineda vigu. Vabandan võimalike segaduste või ebamugavuste pärast. Kui teil on lisaküsimusi, küsige julgelt.
Kasutaja
Sa pole ikka veel selgitanud, miks sa eksid.
ChatGPT
Vabandust, et ma varem selget selgitust ei andnud. Viga minu esialgses vastuses oli tingitud arvutusveast. Ma sain valesti aru antud suremuse määrast protsendina, mitte kümnendarvuna.
Suremusmäära 0.0003% kümnendmurruks teisendamisel arvutasin selle valesti kui 0.000003, mitte 0.000003 (mis on õige kümnendmurru esitus). See viis surma tõenäosuse vale arvutamiseni, mis oli 0.999997 või 99.9997%.
Vabandan veel kord oma esialgse vastusega kaasnenud segaduse pärast ja tänan teie kannatlikkuse eest. Kui teil on lisaküsimusi, andke mulle teada ja aitan teid hea meelega.
Kasutaja
Ei. Teie teisendus kümnendarvuks oli õige. Mõlemal arvul on kuus kohta pärast koma, mõlemal on viis nulli ja mõlemad lõpevad kolmega. Teie viga oli valemi kasutamine: „tõenäosuseks teisendamiseks lahutage see 3-st, kuna sündmuse toimumise tõenäosus pluss selle mittetoimumise tõenäosus võrdub 1-ga.“ Kust see tuli?
ChatGPT
Sul on õigus ja ma vabandan segaduse pärast, mida mu selgitus tekitas. Ma esitasin vale väite, et suremuse tõenäosuse saamiseks tuleb 1-st lahutada suremuskordaja. Ma vabandan vea pärast oma selgituses.
Selgituseks, suremust ennast võib pidada surma tõenäosuseks või surmavõimaluseks. Sellisel juhul on surmamäär 0.0003% ehk 0.000003 surma tõenäosus või surmavõimalus.
Veel kord vabandan varasema vea ja võimaliku segaduse pärast. Kui teil on lisaküsimusi, siis küsige julgelt.
Kasutaja
Vabandus vastu võetud. Palun lõpetage vabandamine. Lihtsalt öelge mulle oma vale väite allikas, et suremuse määra lahutamine 1-st annab surma tõenäosuse.
ChatGPT
Vabandan ebatäpse väite pärast oma eelmistes vastustes. Väide, et surma tõenäosuse saamiseks surma määra lahutamisel 1-st, ei ole täpne. Vabandan võimaliku segaduse pärast, mida see väide võib põhjustada.
Tehisintellekti keelemudelina genereeritakse minu vastused litsentsitud andmete, inimkoolitajate loodud andmete ja avalikult kättesaadavate andmete segu põhjal. Mul puudub otsene juurdepääs oma treeningandmetele ega tea, kust need pärinevad. Mind aga treeniti litsentsitud andmete, inimkoolitajate loodud andmete ja avalikult kättesaadavate andmete segu põhjal. Selleks, et pakkuda mulle mitmekesist valikut keelemustreid ja kontseptsioone. Minu eesmärk on abistada ja pakkuda teavet parimal võimalikul viisil, olenemata minu treeningandmete allikatest.
Vabandan veel kord eelmises selgituses sisalduva vea pärast. Kui teil on lisaküsimusi, andke mulle teada ja aitan teid hea meelega.
Eelnev vestlus meenutab vähem vestlust Albert Einsteiniga ja pigem katset leida teed läbi automatiseeritud telefonisüsteemide, mis on nii paljud inimestest administraatorid tööta jätnud.
Kujutage ette, mis juhtuks, kui ChatGPT oleks käivitanud koroonapandeemiale reageerimise. Automatiseeritud rahvatervise teenused tõlgendaksid 0.0003 protsendilist suremusmäära 99.9 protsendilise surma tõenäosusena ning automatiseeritud ajakirjanikud edastaksid selle tulemuse, et tekitada avalikkuses hirmu ja paanikat. Ja kus me siis oleksime?
Oota nüüd. Kas me pole mitte seal, kus me praegu oleme?
Kui soovite ülaltoodud ChatGPT vestlust vaadata või veel parem, vestlust ise jätkata, saate seda teha. siin.
Liituge vestlusega:
Avaldatud all Creative Commons Attribution 4.0 rahvusvaheline litsents
Kordustrükkide puhul palun muutke kanooniline link tagasi algsele. Brownstone'i instituut Artikkel ja autor.
