Tein kanteen tekstistä osittaisen konekäännöksen. Tekstissä saattaa olla virheitä.
ChatGPT käänsi alkuun ihan kunnolla, mutta alkoi sitten ämpyillä vastaan ja lyhennellä kappaleita, kieltäytyi viimein kokonaan. @KoneÄly auttoi lopuissa. Sama GPT4 kummassakin on takana, mutta eri sessio. Tiedä sitten, mikä hommassa kiikasti. Kismittikö, että työnantaja oli syytösten kohteena?
YLEISET VÄITTEET
Jutun kuvaus
A. Tekoälyn yleisen älykkyyden riski
15. Yhdysvallat siirtyi 1900-luvun aikana vähitellen pääasiassa ihmistyövoimaan perustuvasta taloudesta pääasiassa ihmistiedon perusteella luotuun talouteen, jossa taloudellinen arvo luotiin yhä enemmän ihmisen älykkyyden avulla. Vuosisadan edetessä oli jo käynnissä toinen paradigman muutos: arvonluonti tekoälyn (AI) kautta. Varhaiset AI-ohjelmat kykenivät suoriutumaan ihmisistä paremmin tietyissä erillisissä tehtävissä. Lähes heti ohjelmoitavien tietokoneiden keksimisen jälkeen AI pystyi osoittamaan yli-inhimillistä suorituskykyä erittäin formalisoidussa ongelmassa, kuten nopeimman reitin löytämisessä tiestön läpi. AI:n kesti kauemmin saavuttaa ylivoimaisuus ongelmissa, jotka vaativat enemmän luovuutta. Vuonna 1996 IBM:n Deep Blue AI -ohjelma voitti silloisen shakin maailmanmestarin Gary Kasparovin. Nämä ohjelmat, vaikka hyödyllisiä, olivat käytännössä yhden tempun poneja – niiden älykkyys ei ollut yleistä. Deep Bluella oli valtavat prosessori-arrayt, jotka osasivat pelata vain shakkia. Polunetsintäalgoritmit voivat ratkaista labyrintin tai reitittää auton, mutta ne eivät pystyneet maalaamaan taulua.
16. 2000-luvun lopulla ja 2010-luvun alussa vanha algoritmi nimeltä ”syväoppiminen” muuttui ensimmäistä kertaa käytännölliseksi toteuttaa edullisella laitteistolla. Tämä aiheutti lähes yön yli vallankumouksen suorituskyvyssä lähes kaikissa AI-projekteissa. Kehitettiin uusia, luokkansa parhaita algoritmeja, jotka muuttivat puheen tekstiksi, käänsivät kieliä ja tunnistivat, minkä tyyppistä ruokaa valokuvassa esitettiin. Syväoppimisen tunnusmerkkejä on, että algoritmeja ei tarvitse suunnitella merkittävällä tiedolla käsillä olevasta tehtävästä. Ne oppivat jokaisen tehtävän koulutusesimerkkien avulla, ohjelmoivat itse itsensä. Tämä tarkoittaa, että ne ovat paljon yleiskäyttöisempiä kuin aiemmat järjestelmät, kuten Deep Blue.
17. Kun syväoppimisen algoritmit tulivat yhä kehittyneemmiksi, jotkut maailman johtavista AI-tutkijoista asettivat tähtäimensä siihen, mitä on alettu kutsua tekoälyn yleiseksi älykkyydeksi (AGI). AGI:n peruskonsepti on yleiskäyttöinen tekoälyjärjestelmä – kone, jolla on älykkyyttä laajan valikoiman tehtäviin, kuten ihmisellä.
18. Herra Musk on pitkään tunnistanut, että AGI muodostaa vakavan uhan ihmiskunnalle – ehkä suurimman eksistentiaalisen uhan, jota kohtaamme tänään. Hänen huolensa heijastavat aiemmin häntä ennen esitettyjä huolia, kuten Stephen Hawkingin ja Sun Microsystems perustajan Bill Joyn. Koko taloutemme perustuu siihen, että ihmiset työskentelevät yhdessä ja keksivät parhaatratkaisut vaikeaan tehtävään. Jos kone pystyy ratkaisemaan lähes minkä tahansa tehtävän paremmin kuin me, se tulee taloudellisesti hyödyllisemmäksi kuin me. Kuten herra Joy varoitti, vahvan AGI:n kanssa "tulevaisuus ei tarvitse meitä." Herra Musk on julkisesti vaatinut erilaisia toimenpiteitä AGI:n aiheuttamien vaarojen käsittelemiseksi, vapaaehtoisista moratorioista sääntelyyn, mutta hänen vetoomuksensa ovat suurelta osin kaikuneet kuuroille korville.
19. Mutta siinä missä jotkut, kuten herra Musk, näkevät AGI:ssa eksistentiaalisen uhan, toiset näkevät AGI:ssa voiton ja vallan lähteen.
20. Vuonna 2014 Google osti DeepMindin, tutkimusryhmän, joka keskittyi syväoppimiseen. Yksi DeepMindin ensimmäisistä kehityksistä oli AlphaZero, shakkia pelaava algoritmi. Toisin kuin aiemmat algoritmit, AlphaZero käytti "vahvistavaa oppimista", jossa ohjelma oppii pelaamaan shakkia pelaamalla itseään vastaan eri ohjelmistoversioilla. Se aloittaa pelaamisen satunnaisesti, ilman ymmärrystä pelin strategiasta. Kun yksi ohjelmistoversio voittaa toisen, voittaneen ohjelman sisäiset polut "vahvistetaan" ja prosessi toistuu.
21. AlphaZero tuli nopeasti maailman vahvimmaksi shakinpelaajaksi. Yllättäen ilmoitettiin, että sama ohjelma oli myös maailman vahvin kahden muun erittäin vaikean pelin pelaamisessa. Google/DeepMindin sanoin: "Aloitettuaan satunnaisesta pelaamisesta ja saamatta muuta alueellista tietämystä kuin pelin säännöt, AlphaZero saavutti 24 tunnissa yli-inhimillisen pelitason shakissa ja shogissa (japanilainen shakki) sekä Gossa, ja voitti vakuuttavasti maailmanmestariohjelman kussakin tapauksessa."
22. DeepMind-tiimin kanssa Google hyppäsi välittömästi AGI-kilpailun kärkeen. Herra Musk oli syvästi huolissaan tästä kehityksestä. Hän uskoi (ja uskoo edelleen), että suljetun, voittoa tavoittelevan yhtiön, kuten Googlen, käsissä AGI muodostaa erityisen akuutin ja myrkyllisen vaaran ihmiskunnalle. Vuonna 2014 kilpaileminen Googlen kanssa sen ydinliiketoiminnassa oli jo tarpeeksi vaikeaa. Google oli kerännyt ainutlaatuisen suuren tietoaineiston hauistamme, sähköposteistamme ja lähes jokaisesta kirjastomme kirjasta. Siitä huolimatta, tähän pisteeseen asti, kaikilla oli potentiaalia kilpailla Googlen kanssa ylivoimaisen ihmisen älykkyyden ja kovan työn avulla. AGI tekisi kilpailusta lähes mahdotonta.
B. OpenAI, Inc.:n perustamissopimus
23. Herra Altman väitti jakavansa herra Muskin huolen AGI:n aiheuttamasta uhasta. Vuonna 2015 herra Altman kirjoitti, että "yli-ihmismäisen koneälyn (SMI) kehittäminen on todennäköisesti suurin uhka ihmiskunnan jatkuvan olemassaolon kannalta. On muita uhkia, jotka mielestäni ovat varmempia tapahtumaan... mutta ovat epätodennäköisiä tuhoamaan jokaisen ihmisen universumissa tavalla, jolla SMI voisi." Myöhemmin samana vuonna herra Altman lähestyi herra Muskia ehdotuksella: että he yhdistäisivät voimansa perustaakseen voittoa tavoittelemattoman tekoälylaboratorion, joka yrittäisi saavuttaa Googlen AGI-kilpailussa, mutta se olisi Googlen vastakohta.
24. Yhdessä herra Brockmanin kanssa kolmikko sopi, että tämä uusi laboratorio: (a) olisi voittoa tavoittelematon, kehittäen AGI:a ihmiskunnan hyödyksi, ei voittoa tavoittelevaa yritystä varten, joka pyrkii maksimoimaan osakkeenomistajien voitot; ja (b) olisi avoimen lähdekoodin, ottaen huomioon vain vastakkaiset turvallisuusnäkökohdat, eikä pitäisi teknologiaansa suljettuna ja salaisena kaupallisen omistusoikeuden syistä (”Perustamissopimus”). Heijastaen Perustamissopimusta, herra Musk nimesi tämän uuden tekoälylaboratorion ”OpenAI:ksi”, joka kilpailisi ja toimisi tärkeänä vastapainona Google/DeepMindille AGI-kilpailussa, mutta tekisi niin ihmiskunnan hyödyksi, ei yksityisen, voittoa tavoittelevan yrityksen osakkeenomistajien hyödyksi (saati yhden maailman suurimman teknologiayrityksen).
25. Perustamissopimus vahvistettiin muun muassa OpenAI, Inc.:n 8. joulukuuta 2015 antamassa perustamistodistuksessa, joka vahvisti, että sen ”syntyvä teknologia hyödyttäisi yleisöä ja yhtiö pyrkisi avaamaan teknologian yleisön hyödyksi soveltuvin osin. Yhtiö ei ole järjestäytynyt minkään henkilön yksityisen edun vuoksi.” Perustamistodistus vahvisti edelleen, että kaikki yhtiön omaisuus oli ”peruuttamattomasti omistettu” näille sovituille tarkoituksille.
26. Luottaen Perustamissopimukseen, jonka herra Altman, herra Brockman ja OpenAI, Inc. vahvistivat herra Muskin kanssa useita kertoja, herra Musk oli liikkeellepaneva voima OpenAI, Inc.:n perustamisessa, antaen suurimman osan sen rahoituksesta ensimmäisinä vuosina, neuvoen tutkimussuuntiin ja tärkeimpänä, rekrytoiden maailman johtavia tiedemiehiä ja insinöörejä työskentelemään voittoa tavoittelemattomassa yrityksessä, mukaan lukien pääscientisti Ilya Sutskever. OpenAI, Inc.:n rekrytointi oli herkuleaaninen tehtävä Google/DeepMindin loputtomien rekrytointiponnistelujen ja tarjoaman runsaan korvauksen vuoksi. Ilman herra Muskin perustavia panostuksia ja varhaista johtajuutta OpenAI, Inc.:tä ei olisi ollut olemassa. Herra Musk jatkoi panostuksiaan OpenAI, Inc.:lle sen perustamisesta 14. syyskuuta 2020 asti.
27. OpenAI:n alkuperäinen tutkimus tehtiin avoimesti, tarjoten ilmaisen ja julkisen pääsyn suunnitelmiin, malleihin ja koodiin. Kun OpenAI, Inc.:n tutkijat havaitsivat, että algoritmi nimeltä ”Transformers”, jonka Google alun perin keksi, pystyi suorittamaan monia luonnollisen kielen tehtäviä ilman mitään eksplisiittistä koulutusta, kokonaiset yhteisöt syntyivät parantamaan ja laajentamaan OpenAI, Inc. julkaisemia malleja. Nämä yhteisöt levisivät avoimen lähdekoodin, ruohonjuuritason ponnisteluihin ja kaupallisiin toimijoihin samoin.
28. Vuonna 2019 herra Altmanista tuli OpenAI, Inc.:n toimitusjohtaja. 22. syyskuuta 2020 OpenAI solmi sopimuksen Microsoftin kanssa, antaen Microsoftille yksinoikeuden Generative Pre-Trained Transformer (GPT)-3 kielimalliinsa. OpenAI julkaisi kuitenkin yksityiskohtaisen paperin GPT-3:n sisäisestä toiminnasta ja koulutusdatasta, mahdollistaen yhteisön luoda samankaltaisia malleja itse. Tärkeää on, että Microsoftin lisenssi koski vain OpenAI:n ennen AGI-teknologiaa, ja Microsoft ei saanut oikeuksia AGI:hin. OpenAI, Inc.:n voittoa tavoittelemattoman hallituksen, ei Microsoftin, oli määrä päättää, milloin OpenAI saavuttaisi AGI:n.
C. Vuonna 2023 Perustamissopimuksen rikkominen
29. Vuonna 2023, syytettyinä olevat herra Altman, herra Brockman ja OpenAI sytyttivät perustamissopimuksen tuleen.
30. Maaliskuussa 2023 OpenAI julkaisi voimakkaimman kielimallinsa, GPT-4:n. GPT-4 ei ole vain kykeneväinen päättelyyn, vaan se on parempi päättelyssä kuin keskivertoihmiset. Se saavutti 90. prosentiilin lakimiesten yhtenäisessä baaritutkinnossa, 99. prosentiilin GRE Verbal Assessment -testissä ja 77 % edistyneen sommelierin tutkinnossa. Tuolloin herra Altman johti OpenAI:n poikkeamaan radikaalisti alkuperäisestä tehtävästään ja historiallisesta käytännöstään tehdä teknologia ja tietämys julkisesti saataville. GPT-4:n sisäinen suunnittelu pidettiin salaisena, paitsi OpenAI:lle – ja uskon ja tiedon mukaan Microsoftille. Tämän salassapidon uskotaan pääasiassa johtuvan kaupallisista syistä, ei turvallisuudesta. Vaikka GPT-4 kehitettiin OpenAI:n toimesta käyttäen lahjoituksia yleisön hyödyksi, siitä on nyt käytännössä tullut Microsoftin oma algoritmi, joka on integroitu sen Office-ohjelmistopakettiin.
31. Lisäksi, tiedon ja uskomuksen mukaan, GPT-4 on AGI-algoritmi, ja siksi nimenomaisesti Microsoftin syyskuun 2020 yksinoikeuslisenssin ulkopuolella OpenAI:lle. Tässä yhteydessä Microsoftin omat tutkijat ovat julkisesti todenneet, että "otettaessa huomioon GPT-4:n kykyjen leveys ja syvyys, uskomme, että sitä voitaisiin kohtuudella pitää varhaisena (vaikkakin vielä keskeneräisenä) versiona tekoälyn yleisestä älykkyydestä (AGI)." Lisäksi, tiedon ja uskomuksen mukaan, OpenAI kehittää parhaillaan mallia nimeltä Q* (Q-tähti), jolla on vielä vahvempi väite AGI:sta. Kuten mainittu, Microsoftilla on oikeudet vain tiettyihin OpenAI:n ennen AGI-teknologiaan. Mutta Microsoftin lisenssin tarkoituksiin OpenAI, Inc.:n hallituksen on päätettävä, onko OpenAI saavuttanut AGI:n, ja marraskuussa 2023 tapahtui hallituksen vallankaappaus. Marraskuun 17. päivänä 2023 OpenAI, Inc.:n hallitus erotti herra Altmanin menetettyään "luottamuksen hänen kykyynsä jatkaa OpenAI:n johtamista" koska "hän ei ollut johdonmukaisesti avoin hallitukselle." Eräänä sarjana hämmästyttäviä tapahtumia seuraavien useiden päivien aikana herra Altman ja herra Brockman, yhteistyössä Microsoftin kanssa, hyödynsivät Microsoftin merkittävää vaikutusvaltaa OpenAI, Inc.:iin ja pakottivat enemmistön OpenAI, Inc.:n hallituksen jäsenistä, mukaan lukien pääteknologian kehittäjä Ilya Sutskever, eroamaan. Herra Altman palasi takaisin toimitusjohtajaksi OpenAI, Inc.:ssä 21. marraskuuta. Tiedon ja uskomuksen mukaan uudet hallituksen jäsenet olivat herra Alman valitsemia ja heidät oli siunattu Microsoftin toimesta. Uusilta hallituksen jäseniltä puuttuu merkittävä tekoälyosaaminen ja tiedon ja uskomuksen mukaan heidät on tarkoituksellisesti varustettu niin, etteivät he voi itsenäisesti päättää, onko ja milloin OpenAI on saavuttanut Yleisen tekoälyn (AGI) – ja siten, onko se kehittänyt algoritmin, joka ylittää Microsoftin lisenssin soveltamisalan.
32. Vuoden 2023 tapahtumat muodostavat räikeitä rikkomuksia Perustamissopimusta kohtaan, jonka Vastaajat käytännössä ovat kääntäneet päälaelleen. Tähän päivään asti OpenAI, Inc:n verkkosivusto jatkaa julistamistaan, että sen tarkoituksena on varmistaa, että Yleinen tekoäly (AGI) "hyödyttää koko ihmiskuntaa." Todellisuudessa kuitenkin OpenAI, Inc. on muutettu suljetun lähdekoodin käytännölliseksi tytäryhtiöksi maailman suurimmalle teknologiayritykselle: Microsoftille. Uuden hallituksensa alaisuudessa se ei ainoastaan kehitä vaan itse asiassa hioo AGI:a maksimoidakseen voitot Microsoftille, ei ihmiskunnan hyväksi. Sen teknologia, mukaan lukien GPT-4, on suljettua lähdekoodia pääasiassa palvellakseen Microsoftin omia kaupallisia etuja. Todellakin, kun marraskuun 2023 draamaa oli meneillään, Microsoftin toimitusjohtaja kerskui, että ei olisi merkitystä "illä, jos OpenAI katoaisi huomenna." Hän selitti, että "[m]eillä on kaikki IP-oikeudet ja kaikki mahdollisuudet." "Meillä on henkilöt, laskentateho, data, meillä on kaikkea." "Olemme heidän alapuolellaan, yläpuolellaan, ympärillään."
33. Tämä tapaus on avattu pakottaakseen OpenAI:n noudattamaan Perustamissopimusta ja palaamaan tehtäväänsä kehittää Yleistä tekoälyä (AGI) ihmiskunnan hyväksi, ei henkilökohtaisen hyödyn tavoitteluun yksittäisten Vastaajien ja maailman suurimman teknologiayrityksen eduksi.
Yksityiskohtaiset väitteet
A. Herra Muskin Huolet Yleisen Tekoälyn Putoamisesta Väärille Käsille
34. Vuonna 2012 Elon Musk tapasi Demis Hassabiksen, DeepMind-yhtiön voittoa tavoittelevan tekoälyn yhtiön yhteis perustajan. Tuolloin tai sen tienoilla herra Musk ja herra Hassabis tapasivat SpaceX:n tehtaalla Hawthorne, Kaliforniassa, missä herra Musk ja herra Hassabis keskustelivat suurimmista yhteiskuntaa uhkaavista vaaroista. Tässä keskustelussa herra Hassabis korosti tekoälyn kehityksen mahdollisia vaaroja yhteiskunnalle.
35. Tämän keskustelun jälkeen herra Musk alkoi olla yhä enemmän huolestunut tekoälyn mahdollisuudesta kehittyä superviisaaksi, ylittää ihmisen älykkyyden ja uhata ihmiskuntaa. Todellakin herra Musk ei ollut ainoa, joka pelkäsi tekoälyn vaaroja ja DeepMindissä tehtävää tutkimusta. On kerrottu, että erään investoijan toteamuksen mukaan parasta mitä hän olisi voinut tehdä ihmiskunnan hyväksi olisi ampua herra Hassabis paikalla.
36. Herra Musk alkoi keskustella tekoälystä ja DeepMindistä lähipiirissään, kuten silloisen Google-emoyhtiö Alphabettiä johtaneen Larry Pagen kanssa. Herra Musk toi usein esille tekoälyn vaarat keskusteluissaan herra Pagen kanssa, mutta herra Muskin suureksi hämmästykseksi herra Page ei ollut huolestunut. Esimerkiksi vuonna 2013 herra Musk keskusteli intohimoisesti herra Pagen kanssa tekoälyn vaaroista. Hän varoitti, että ellei suojatoimia oteta käyttöön, "tekoälyjärjestelmät voisivat korvata ihmiset, tehdä lajimme merkityksettömäksi tai jopa sukupuuttoon kuolevaksi." Herra Page vastasi, että se olisi vain "evoluution seuraava vaihe" ja väitti herra Muskin olevan "lajispesisti" – että hän suosi ihmislajia älykkäiden koneiden sijaan. Herra Musk vastasi: "No, kyllä, olen ihmislajiin kannustava."
37. Vuoden 2013 lopussa herra Musk sai suuren huolestumisen, kun hän kuuli, että Google suunnitteli ostavansa DeepMindin. Tuolloin DeepMind oli yksi edistyneimmistä tekoäly-yhtiöistä alalla. Näin ollen herra Musk oli syvästi huolissaan siitä, että DeepMindin tekoälyteknologia olisi henkilön käsissä, joka suhtautui siihen ja sen voimaan niin huolimattomasti ja pystyi piilottamaan sen suunnittelun ja kyvyt suljettujen ovien taakse.
38. Estääkseen tämän tehokkaan teknologian pääsyn Googlen käsiin, herra Musk ja PayPalin yhteis perustajan Luke Nosekin yrittivät kerätä varoja DeepMindin ostamiseksi. Tämä ponnistelu huipentui tunnin pituiseen puheluun, jossa herra Musk ja herra Nosek tekivät viimeisen yrityksen vakuuttaa herra Hassabisia olemaan myymättä DeepMindiä Googlelle. Herra Musk kertoi herra Hassabisille, että "[t]ekoälyn tulevaisuutta ei saisi määrätä Larry [Page]."
39. Herra Muskin ja herra Nosekin ponnistelut eivät tuottaneet tulosta. Tammikuussa 2014 kerrottiin, että Google aikoi ostaa DeepMindin. Tämä ei kuitenkaan estänyt herra Muskin jatkamasta varmistamista, että tekoälyä kehitettiin ja harjoiteltiin turvallisesti.
40. DeepMindin ostettuaan Google, herra Musk alkoi "järjestää omia illalliskeskustelusarjoja Googlen vastustamiseksi ja tekoälyn turvallisuuden edistämiseksi." Herra Musk otti myös yhteyttä presidentti Barack Obamaan keskustellakseen tekoälystä ja sen turvallisuudesta. Vuonna 2015 herra Musk ja presidentti Obama tapasivat, jolloin herra Musk selitti tekoälyn vaarat ja ajoi säätelyä. Herra Musk tunsi, että presidentti Obama ymmärsi tekoälyn vaarat, mutta säätelyä ei koskaan tullut.
41. Näistä takaiskuista huolimatta herra Musk jatkoi turvallisten tekoälykäytäntöjen puolustamista. Vuonna 2015 näytti siltä, että herra Muskilla saattaisi olla joku, joka ymmärsi hänen huolensa tekoälystä ja hänen halunsa pitää ensimmäinen Yleinen tekoäly (AGI) pois yksityisen yrityksen käsistä, kuten Googlesta: Vastaaja Sam Altman.
42. Tuolloin herra Altman toimi Y Combinatorin presidenttinä, start-up-kiihdyttimenä Sillicon Valleyssa. Sitä ennen herra Altman oli ollut mukana erilaisissa start-up-hankkeissa.
43. Herra Altman vaikutti jakavan herra Muskin huolenaiheet tekoälyn ympärillä. Vuodesta 2014 alkaen julkisissa blogikirjoituksissaan herra Altman totesi, että Yleisen tekoälyn ollessa kyseessä, se olisi "suurin teknologian kehitys koskaan." Herra Altman huomautti, että on monta yritystä, jotka tekevät edistysaskelia kohti Yleistä tekoälyä, mutta myönsi ikävän tosiasian, että "hyvät pitävät siitä hyvin salaisuutena."
44. 25. helmikuuta 2015 herra Altman ilmaisi myös huolensa niin kutsutun "ylimaallisen koneälyn" kehittämisestä, jonka hän tunnisti "todennäköisesti suurimmaksi uhaksi ihmiskunnan jatkuvuudelle" ja korosti, että "ihmisinä, jotka on ohjelmoitu selviytymään ja lisääntymään, minusta tuntuu, että meidän tulisi taistella sitä vastaan." Lisäksi herra Altman arvosteli niitä, jotka pitivät "ylimaallista koneälyä" vaarallisena mutta sivuuttivat sen sanoen, että "sitä ei koskaan tapahdu tai se on varmasti kaukana tulevaisuudessa." Hän syytti heitä "hutiloivasta, vaarallisesta ajattelusta."
45. Todellakin, maaliskuun alussa 2015 herra Altman ylisti hallituksen säätelyn tärkeyttä keinona varmistaa, että tekoälyä luodaan turvallisesti ja ehdotti, että "ryhmä erittäin älykkäitä ihmisiä, joilla on paljon resursseja", todennäköisesti osallistuen "jotenkin Yhdysvaltain yrityksiin", olisi todennäköisin ryhmä, joka saavuttaisi "ylimaallisen koneälyn" ensin.
46. Myöhemmin samana kuussa herra Altman otti yhteyttä herra Muskiin tiedustellakseen, olisiko tämä kiinnostunut laativan kirjeen Yhdysvaltain hallitukselle koskien tekoälyä. Kaksi ryhtyi laatimaan kirjettä ja lähestymään vaikutusvaltaisia henkilöitä teknologia- ja tekoälyaloilla allekirjoittamiseen. Ei kestänyt kauaa ennen kuin alan ihmiset alkoivat kuulla huhuja kirjeestä.
47. Esimerkiksi huhtikuussa 2015 herra Hassabis otti yhteyttä herra Muskiin todeten, että hän oli kuullut useista lähteistä, että herra Musk oli laatinut kirjeen, joka oli osoitettu presidentille ja jossa vaadittiin tekoälyn sääntelyä. Herra Musk puolusti ajatusta tekoälyn säätelystä herra Hassabisille todeten: "Jos se tehdään hyvin, se saattaa hyvinkin kiihdyttää tekoälyä pitkällä aikavälillä. Ilman julkista turvallisuuden takaavaa sääntelyä saattaa hyvinkin syntyä tilanne, jossa tekoäly aiheuttaa suurta haittaa ja sen jälkeen tekoälytutkimus kielletään vaarallisena yleiselle turvallisuudelle."
48. Viisi päivää sen jälkeen kun herra Hassabis otti yhteyttä herra Muskiin avoimesta tekoälykirjeestä, herra Hassabis ilmoitti Google DeepMindin tekoälyetiikka-neuvoston ensimmäisestä kokouksesta, johon Google ja DeepMind olivat luvanneet perustaa kaksi vuotta aiemmin, kun Google hankki DeepMindin. Herra Muskia pyydettiin liittymään neuvostoon ja tarjoutui järjestämään ensimmäisen kokouksen SpaceX:llä Hawthornessa, Kaliforniassa. Herra Muskille kävi selväksi ensimmäisen kokouksen jälkeen, että tämä neuvosto ei ollut vakava pyrkimys, vaan pikemminkin kasvoton yritys hidastaa mahdollista tekoälyn sääntelyä.
49. Avoin kirje julkaistiin myöhemmin 28. lokakuuta 2015 ja allekirjoittivat sen yli yksitoistatuhatta henkilöä, mukaan lukien herra Musk, Stephen Hawking ja Steve Wozniak.
ChatGPT käänsi alkuun ihan kunnolla, mutta alkoi sitten ämpyillä vastaan ja lyhennellä kappaleita, kieltäytyi viimein kokonaan. @KoneÄly auttoi lopuissa. Sama GPT4 kummassakin on takana, mutta eri sessio. Tiedä sitten, mikä hommassa kiikasti. Kismittikö, että työnantaja oli syytösten kohteena?
YLEISET VÄITTEET
Jutun kuvaus
A. Tekoälyn yleisen älykkyyden riski
15. Yhdysvallat siirtyi 1900-luvun aikana vähitellen pääasiassa ihmistyövoimaan perustuvasta taloudesta pääasiassa ihmistiedon perusteella luotuun talouteen, jossa taloudellinen arvo luotiin yhä enemmän ihmisen älykkyyden avulla. Vuosisadan edetessä oli jo käynnissä toinen paradigman muutos: arvonluonti tekoälyn (AI) kautta. Varhaiset AI-ohjelmat kykenivät suoriutumaan ihmisistä paremmin tietyissä erillisissä tehtävissä. Lähes heti ohjelmoitavien tietokoneiden keksimisen jälkeen AI pystyi osoittamaan yli-inhimillistä suorituskykyä erittäin formalisoidussa ongelmassa, kuten nopeimman reitin löytämisessä tiestön läpi. AI:n kesti kauemmin saavuttaa ylivoimaisuus ongelmissa, jotka vaativat enemmän luovuutta. Vuonna 1996 IBM:n Deep Blue AI -ohjelma voitti silloisen shakin maailmanmestarin Gary Kasparovin. Nämä ohjelmat, vaikka hyödyllisiä, olivat käytännössä yhden tempun poneja – niiden älykkyys ei ollut yleistä. Deep Bluella oli valtavat prosessori-arrayt, jotka osasivat pelata vain shakkia. Polunetsintäalgoritmit voivat ratkaista labyrintin tai reitittää auton, mutta ne eivät pystyneet maalaamaan taulua.
16. 2000-luvun lopulla ja 2010-luvun alussa vanha algoritmi nimeltä ”syväoppiminen” muuttui ensimmäistä kertaa käytännölliseksi toteuttaa edullisella laitteistolla. Tämä aiheutti lähes yön yli vallankumouksen suorituskyvyssä lähes kaikissa AI-projekteissa. Kehitettiin uusia, luokkansa parhaita algoritmeja, jotka muuttivat puheen tekstiksi, käänsivät kieliä ja tunnistivat, minkä tyyppistä ruokaa valokuvassa esitettiin. Syväoppimisen tunnusmerkkejä on, että algoritmeja ei tarvitse suunnitella merkittävällä tiedolla käsillä olevasta tehtävästä. Ne oppivat jokaisen tehtävän koulutusesimerkkien avulla, ohjelmoivat itse itsensä. Tämä tarkoittaa, että ne ovat paljon yleiskäyttöisempiä kuin aiemmat järjestelmät, kuten Deep Blue.
17. Kun syväoppimisen algoritmit tulivat yhä kehittyneemmiksi, jotkut maailman johtavista AI-tutkijoista asettivat tähtäimensä siihen, mitä on alettu kutsua tekoälyn yleiseksi älykkyydeksi (AGI). AGI:n peruskonsepti on yleiskäyttöinen tekoälyjärjestelmä – kone, jolla on älykkyyttä laajan valikoiman tehtäviin, kuten ihmisellä.
18. Herra Musk on pitkään tunnistanut, että AGI muodostaa vakavan uhan ihmiskunnalle – ehkä suurimman eksistentiaalisen uhan, jota kohtaamme tänään. Hänen huolensa heijastavat aiemmin häntä ennen esitettyjä huolia, kuten Stephen Hawkingin ja Sun Microsystems perustajan Bill Joyn. Koko taloutemme perustuu siihen, että ihmiset työskentelevät yhdessä ja keksivät parhaatratkaisut vaikeaan tehtävään. Jos kone pystyy ratkaisemaan lähes minkä tahansa tehtävän paremmin kuin me, se tulee taloudellisesti hyödyllisemmäksi kuin me. Kuten herra Joy varoitti, vahvan AGI:n kanssa "tulevaisuus ei tarvitse meitä." Herra Musk on julkisesti vaatinut erilaisia toimenpiteitä AGI:n aiheuttamien vaarojen käsittelemiseksi, vapaaehtoisista moratorioista sääntelyyn, mutta hänen vetoomuksensa ovat suurelta osin kaikuneet kuuroille korville.
19. Mutta siinä missä jotkut, kuten herra Musk, näkevät AGI:ssa eksistentiaalisen uhan, toiset näkevät AGI:ssa voiton ja vallan lähteen.
20. Vuonna 2014 Google osti DeepMindin, tutkimusryhmän, joka keskittyi syväoppimiseen. Yksi DeepMindin ensimmäisistä kehityksistä oli AlphaZero, shakkia pelaava algoritmi. Toisin kuin aiemmat algoritmit, AlphaZero käytti "vahvistavaa oppimista", jossa ohjelma oppii pelaamaan shakkia pelaamalla itseään vastaan eri ohjelmistoversioilla. Se aloittaa pelaamisen satunnaisesti, ilman ymmärrystä pelin strategiasta. Kun yksi ohjelmistoversio voittaa toisen, voittaneen ohjelman sisäiset polut "vahvistetaan" ja prosessi toistuu.
21. AlphaZero tuli nopeasti maailman vahvimmaksi shakinpelaajaksi. Yllättäen ilmoitettiin, että sama ohjelma oli myös maailman vahvin kahden muun erittäin vaikean pelin pelaamisessa. Google/DeepMindin sanoin: "Aloitettuaan satunnaisesta pelaamisesta ja saamatta muuta alueellista tietämystä kuin pelin säännöt, AlphaZero saavutti 24 tunnissa yli-inhimillisen pelitason shakissa ja shogissa (japanilainen shakki) sekä Gossa, ja voitti vakuuttavasti maailmanmestariohjelman kussakin tapauksessa."
22. DeepMind-tiimin kanssa Google hyppäsi välittömästi AGI-kilpailun kärkeen. Herra Musk oli syvästi huolissaan tästä kehityksestä. Hän uskoi (ja uskoo edelleen), että suljetun, voittoa tavoittelevan yhtiön, kuten Googlen, käsissä AGI muodostaa erityisen akuutin ja myrkyllisen vaaran ihmiskunnalle. Vuonna 2014 kilpaileminen Googlen kanssa sen ydinliiketoiminnassa oli jo tarpeeksi vaikeaa. Google oli kerännyt ainutlaatuisen suuren tietoaineiston hauistamme, sähköposteistamme ja lähes jokaisesta kirjastomme kirjasta. Siitä huolimatta, tähän pisteeseen asti, kaikilla oli potentiaalia kilpailla Googlen kanssa ylivoimaisen ihmisen älykkyyden ja kovan työn avulla. AGI tekisi kilpailusta lähes mahdotonta.
B. OpenAI, Inc.:n perustamissopimus
23. Herra Altman väitti jakavansa herra Muskin huolen AGI:n aiheuttamasta uhasta. Vuonna 2015 herra Altman kirjoitti, että "yli-ihmismäisen koneälyn (SMI) kehittäminen on todennäköisesti suurin uhka ihmiskunnan jatkuvan olemassaolon kannalta. On muita uhkia, jotka mielestäni ovat varmempia tapahtumaan... mutta ovat epätodennäköisiä tuhoamaan jokaisen ihmisen universumissa tavalla, jolla SMI voisi." Myöhemmin samana vuonna herra Altman lähestyi herra Muskia ehdotuksella: että he yhdistäisivät voimansa perustaakseen voittoa tavoittelemattoman tekoälylaboratorion, joka yrittäisi saavuttaa Googlen AGI-kilpailussa, mutta se olisi Googlen vastakohta.
24. Yhdessä herra Brockmanin kanssa kolmikko sopi, että tämä uusi laboratorio: (a) olisi voittoa tavoittelematon, kehittäen AGI:a ihmiskunnan hyödyksi, ei voittoa tavoittelevaa yritystä varten, joka pyrkii maksimoimaan osakkeenomistajien voitot; ja (b) olisi avoimen lähdekoodin, ottaen huomioon vain vastakkaiset turvallisuusnäkökohdat, eikä pitäisi teknologiaansa suljettuna ja salaisena kaupallisen omistusoikeuden syistä (”Perustamissopimus”). Heijastaen Perustamissopimusta, herra Musk nimesi tämän uuden tekoälylaboratorion ”OpenAI:ksi”, joka kilpailisi ja toimisi tärkeänä vastapainona Google/DeepMindille AGI-kilpailussa, mutta tekisi niin ihmiskunnan hyödyksi, ei yksityisen, voittoa tavoittelevan yrityksen osakkeenomistajien hyödyksi (saati yhden maailman suurimman teknologiayrityksen).
25. Perustamissopimus vahvistettiin muun muassa OpenAI, Inc.:n 8. joulukuuta 2015 antamassa perustamistodistuksessa, joka vahvisti, että sen ”syntyvä teknologia hyödyttäisi yleisöä ja yhtiö pyrkisi avaamaan teknologian yleisön hyödyksi soveltuvin osin. Yhtiö ei ole järjestäytynyt minkään henkilön yksityisen edun vuoksi.” Perustamistodistus vahvisti edelleen, että kaikki yhtiön omaisuus oli ”peruuttamattomasti omistettu” näille sovituille tarkoituksille.
26. Luottaen Perustamissopimukseen, jonka herra Altman, herra Brockman ja OpenAI, Inc. vahvistivat herra Muskin kanssa useita kertoja, herra Musk oli liikkeellepaneva voima OpenAI, Inc.:n perustamisessa, antaen suurimman osan sen rahoituksesta ensimmäisinä vuosina, neuvoen tutkimussuuntiin ja tärkeimpänä, rekrytoiden maailman johtavia tiedemiehiä ja insinöörejä työskentelemään voittoa tavoittelemattomassa yrityksessä, mukaan lukien pääscientisti Ilya Sutskever. OpenAI, Inc.:n rekrytointi oli herkuleaaninen tehtävä Google/DeepMindin loputtomien rekrytointiponnistelujen ja tarjoaman runsaan korvauksen vuoksi. Ilman herra Muskin perustavia panostuksia ja varhaista johtajuutta OpenAI, Inc.:tä ei olisi ollut olemassa. Herra Musk jatkoi panostuksiaan OpenAI, Inc.:lle sen perustamisesta 14. syyskuuta 2020 asti.
27. OpenAI:n alkuperäinen tutkimus tehtiin avoimesti, tarjoten ilmaisen ja julkisen pääsyn suunnitelmiin, malleihin ja koodiin. Kun OpenAI, Inc.:n tutkijat havaitsivat, että algoritmi nimeltä ”Transformers”, jonka Google alun perin keksi, pystyi suorittamaan monia luonnollisen kielen tehtäviä ilman mitään eksplisiittistä koulutusta, kokonaiset yhteisöt syntyivät parantamaan ja laajentamaan OpenAI, Inc. julkaisemia malleja. Nämä yhteisöt levisivät avoimen lähdekoodin, ruohonjuuritason ponnisteluihin ja kaupallisiin toimijoihin samoin.
28. Vuonna 2019 herra Altmanista tuli OpenAI, Inc.:n toimitusjohtaja. 22. syyskuuta 2020 OpenAI solmi sopimuksen Microsoftin kanssa, antaen Microsoftille yksinoikeuden Generative Pre-Trained Transformer (GPT)-3 kielimalliinsa. OpenAI julkaisi kuitenkin yksityiskohtaisen paperin GPT-3:n sisäisestä toiminnasta ja koulutusdatasta, mahdollistaen yhteisön luoda samankaltaisia malleja itse. Tärkeää on, että Microsoftin lisenssi koski vain OpenAI:n ennen AGI-teknologiaa, ja Microsoft ei saanut oikeuksia AGI:hin. OpenAI, Inc.:n voittoa tavoittelemattoman hallituksen, ei Microsoftin, oli määrä päättää, milloin OpenAI saavuttaisi AGI:n.
C. Vuonna 2023 Perustamissopimuksen rikkominen
29. Vuonna 2023, syytettyinä olevat herra Altman, herra Brockman ja OpenAI sytyttivät perustamissopimuksen tuleen.
30. Maaliskuussa 2023 OpenAI julkaisi voimakkaimman kielimallinsa, GPT-4:n. GPT-4 ei ole vain kykeneväinen päättelyyn, vaan se on parempi päättelyssä kuin keskivertoihmiset. Se saavutti 90. prosentiilin lakimiesten yhtenäisessä baaritutkinnossa, 99. prosentiilin GRE Verbal Assessment -testissä ja 77 % edistyneen sommelierin tutkinnossa. Tuolloin herra Altman johti OpenAI:n poikkeamaan radikaalisti alkuperäisestä tehtävästään ja historiallisesta käytännöstään tehdä teknologia ja tietämys julkisesti saataville. GPT-4:n sisäinen suunnittelu pidettiin salaisena, paitsi OpenAI:lle – ja uskon ja tiedon mukaan Microsoftille. Tämän salassapidon uskotaan pääasiassa johtuvan kaupallisista syistä, ei turvallisuudesta. Vaikka GPT-4 kehitettiin OpenAI:n toimesta käyttäen lahjoituksia yleisön hyödyksi, siitä on nyt käytännössä tullut Microsoftin oma algoritmi, joka on integroitu sen Office-ohjelmistopakettiin.
31. Lisäksi, tiedon ja uskomuksen mukaan, GPT-4 on AGI-algoritmi, ja siksi nimenomaisesti Microsoftin syyskuun 2020 yksinoikeuslisenssin ulkopuolella OpenAI:lle. Tässä yhteydessä Microsoftin omat tutkijat ovat julkisesti todenneet, että "otettaessa huomioon GPT-4:n kykyjen leveys ja syvyys, uskomme, että sitä voitaisiin kohtuudella pitää varhaisena (vaikkakin vielä keskeneräisenä) versiona tekoälyn yleisestä älykkyydestä (AGI)." Lisäksi, tiedon ja uskomuksen mukaan, OpenAI kehittää parhaillaan mallia nimeltä Q* (Q-tähti), jolla on vielä vahvempi väite AGI:sta. Kuten mainittu, Microsoftilla on oikeudet vain tiettyihin OpenAI:n ennen AGI-teknologiaan. Mutta Microsoftin lisenssin tarkoituksiin OpenAI, Inc.:n hallituksen on päätettävä, onko OpenAI saavuttanut AGI:n, ja marraskuussa 2023 tapahtui hallituksen vallankaappaus. Marraskuun 17. päivänä 2023 OpenAI, Inc.:n hallitus erotti herra Altmanin menetettyään "luottamuksen hänen kykyynsä jatkaa OpenAI:n johtamista" koska "hän ei ollut johdonmukaisesti avoin hallitukselle." Eräänä sarjana hämmästyttäviä tapahtumia seuraavien useiden päivien aikana herra Altman ja herra Brockman, yhteistyössä Microsoftin kanssa, hyödynsivät Microsoftin merkittävää vaikutusvaltaa OpenAI, Inc.:iin ja pakottivat enemmistön OpenAI, Inc.:n hallituksen jäsenistä, mukaan lukien pääteknologian kehittäjä Ilya Sutskever, eroamaan. Herra Altman palasi takaisin toimitusjohtajaksi OpenAI, Inc.:ssä 21. marraskuuta. Tiedon ja uskomuksen mukaan uudet hallituksen jäsenet olivat herra Alman valitsemia ja heidät oli siunattu Microsoftin toimesta. Uusilta hallituksen jäseniltä puuttuu merkittävä tekoälyosaaminen ja tiedon ja uskomuksen mukaan heidät on tarkoituksellisesti varustettu niin, etteivät he voi itsenäisesti päättää, onko ja milloin OpenAI on saavuttanut Yleisen tekoälyn (AGI) – ja siten, onko se kehittänyt algoritmin, joka ylittää Microsoftin lisenssin soveltamisalan.
32. Vuoden 2023 tapahtumat muodostavat räikeitä rikkomuksia Perustamissopimusta kohtaan, jonka Vastaajat käytännössä ovat kääntäneet päälaelleen. Tähän päivään asti OpenAI, Inc:n verkkosivusto jatkaa julistamistaan, että sen tarkoituksena on varmistaa, että Yleinen tekoäly (AGI) "hyödyttää koko ihmiskuntaa." Todellisuudessa kuitenkin OpenAI, Inc. on muutettu suljetun lähdekoodin käytännölliseksi tytäryhtiöksi maailman suurimmalle teknologiayritykselle: Microsoftille. Uuden hallituksensa alaisuudessa se ei ainoastaan kehitä vaan itse asiassa hioo AGI:a maksimoidakseen voitot Microsoftille, ei ihmiskunnan hyväksi. Sen teknologia, mukaan lukien GPT-4, on suljettua lähdekoodia pääasiassa palvellakseen Microsoftin omia kaupallisia etuja. Todellakin, kun marraskuun 2023 draamaa oli meneillään, Microsoftin toimitusjohtaja kerskui, että ei olisi merkitystä "illä, jos OpenAI katoaisi huomenna." Hän selitti, että "[m]eillä on kaikki IP-oikeudet ja kaikki mahdollisuudet." "Meillä on henkilöt, laskentateho, data, meillä on kaikkea." "Olemme heidän alapuolellaan, yläpuolellaan, ympärillään."
33. Tämä tapaus on avattu pakottaakseen OpenAI:n noudattamaan Perustamissopimusta ja palaamaan tehtäväänsä kehittää Yleistä tekoälyä (AGI) ihmiskunnan hyväksi, ei henkilökohtaisen hyödyn tavoitteluun yksittäisten Vastaajien ja maailman suurimman teknologiayrityksen eduksi.
Yksityiskohtaiset väitteet
A. Herra Muskin Huolet Yleisen Tekoälyn Putoamisesta Väärille Käsille
34. Vuonna 2012 Elon Musk tapasi Demis Hassabiksen, DeepMind-yhtiön voittoa tavoittelevan tekoälyn yhtiön yhteis perustajan. Tuolloin tai sen tienoilla herra Musk ja herra Hassabis tapasivat SpaceX:n tehtaalla Hawthorne, Kaliforniassa, missä herra Musk ja herra Hassabis keskustelivat suurimmista yhteiskuntaa uhkaavista vaaroista. Tässä keskustelussa herra Hassabis korosti tekoälyn kehityksen mahdollisia vaaroja yhteiskunnalle.
35. Tämän keskustelun jälkeen herra Musk alkoi olla yhä enemmän huolestunut tekoälyn mahdollisuudesta kehittyä superviisaaksi, ylittää ihmisen älykkyyden ja uhata ihmiskuntaa. Todellakin herra Musk ei ollut ainoa, joka pelkäsi tekoälyn vaaroja ja DeepMindissä tehtävää tutkimusta. On kerrottu, että erään investoijan toteamuksen mukaan parasta mitä hän olisi voinut tehdä ihmiskunnan hyväksi olisi ampua herra Hassabis paikalla.
36. Herra Musk alkoi keskustella tekoälystä ja DeepMindistä lähipiirissään, kuten silloisen Google-emoyhtiö Alphabettiä johtaneen Larry Pagen kanssa. Herra Musk toi usein esille tekoälyn vaarat keskusteluissaan herra Pagen kanssa, mutta herra Muskin suureksi hämmästykseksi herra Page ei ollut huolestunut. Esimerkiksi vuonna 2013 herra Musk keskusteli intohimoisesti herra Pagen kanssa tekoälyn vaaroista. Hän varoitti, että ellei suojatoimia oteta käyttöön, "tekoälyjärjestelmät voisivat korvata ihmiset, tehdä lajimme merkityksettömäksi tai jopa sukupuuttoon kuolevaksi." Herra Page vastasi, että se olisi vain "evoluution seuraava vaihe" ja väitti herra Muskin olevan "lajispesisti" – että hän suosi ihmislajia älykkäiden koneiden sijaan. Herra Musk vastasi: "No, kyllä, olen ihmislajiin kannustava."
37. Vuoden 2013 lopussa herra Musk sai suuren huolestumisen, kun hän kuuli, että Google suunnitteli ostavansa DeepMindin. Tuolloin DeepMind oli yksi edistyneimmistä tekoäly-yhtiöistä alalla. Näin ollen herra Musk oli syvästi huolissaan siitä, että DeepMindin tekoälyteknologia olisi henkilön käsissä, joka suhtautui siihen ja sen voimaan niin huolimattomasti ja pystyi piilottamaan sen suunnittelun ja kyvyt suljettujen ovien taakse.
38. Estääkseen tämän tehokkaan teknologian pääsyn Googlen käsiin, herra Musk ja PayPalin yhteis perustajan Luke Nosekin yrittivät kerätä varoja DeepMindin ostamiseksi. Tämä ponnistelu huipentui tunnin pituiseen puheluun, jossa herra Musk ja herra Nosek tekivät viimeisen yrityksen vakuuttaa herra Hassabisia olemaan myymättä DeepMindiä Googlelle. Herra Musk kertoi herra Hassabisille, että "[t]ekoälyn tulevaisuutta ei saisi määrätä Larry [Page]."
39. Herra Muskin ja herra Nosekin ponnistelut eivät tuottaneet tulosta. Tammikuussa 2014 kerrottiin, että Google aikoi ostaa DeepMindin. Tämä ei kuitenkaan estänyt herra Muskin jatkamasta varmistamista, että tekoälyä kehitettiin ja harjoiteltiin turvallisesti.
40. DeepMindin ostettuaan Google, herra Musk alkoi "järjestää omia illalliskeskustelusarjoja Googlen vastustamiseksi ja tekoälyn turvallisuuden edistämiseksi." Herra Musk otti myös yhteyttä presidentti Barack Obamaan keskustellakseen tekoälystä ja sen turvallisuudesta. Vuonna 2015 herra Musk ja presidentti Obama tapasivat, jolloin herra Musk selitti tekoälyn vaarat ja ajoi säätelyä. Herra Musk tunsi, että presidentti Obama ymmärsi tekoälyn vaarat, mutta säätelyä ei koskaan tullut.
41. Näistä takaiskuista huolimatta herra Musk jatkoi turvallisten tekoälykäytäntöjen puolustamista. Vuonna 2015 näytti siltä, että herra Muskilla saattaisi olla joku, joka ymmärsi hänen huolensa tekoälystä ja hänen halunsa pitää ensimmäinen Yleinen tekoäly (AGI) pois yksityisen yrityksen käsistä, kuten Googlesta: Vastaaja Sam Altman.
42. Tuolloin herra Altman toimi Y Combinatorin presidenttinä, start-up-kiihdyttimenä Sillicon Valleyssa. Sitä ennen herra Altman oli ollut mukana erilaisissa start-up-hankkeissa.
43. Herra Altman vaikutti jakavan herra Muskin huolenaiheet tekoälyn ympärillä. Vuodesta 2014 alkaen julkisissa blogikirjoituksissaan herra Altman totesi, että Yleisen tekoälyn ollessa kyseessä, se olisi "suurin teknologian kehitys koskaan." Herra Altman huomautti, että on monta yritystä, jotka tekevät edistysaskelia kohti Yleistä tekoälyä, mutta myönsi ikävän tosiasian, että "hyvät pitävät siitä hyvin salaisuutena."
44. 25. helmikuuta 2015 herra Altman ilmaisi myös huolensa niin kutsutun "ylimaallisen koneälyn" kehittämisestä, jonka hän tunnisti "todennäköisesti suurimmaksi uhaksi ihmiskunnan jatkuvuudelle" ja korosti, että "ihmisinä, jotka on ohjelmoitu selviytymään ja lisääntymään, minusta tuntuu, että meidän tulisi taistella sitä vastaan." Lisäksi herra Altman arvosteli niitä, jotka pitivät "ylimaallista koneälyä" vaarallisena mutta sivuuttivat sen sanoen, että "sitä ei koskaan tapahdu tai se on varmasti kaukana tulevaisuudessa." Hän syytti heitä "hutiloivasta, vaarallisesta ajattelusta."
45. Todellakin, maaliskuun alussa 2015 herra Altman ylisti hallituksen säätelyn tärkeyttä keinona varmistaa, että tekoälyä luodaan turvallisesti ja ehdotti, että "ryhmä erittäin älykkäitä ihmisiä, joilla on paljon resursseja", todennäköisesti osallistuen "jotenkin Yhdysvaltain yrityksiin", olisi todennäköisin ryhmä, joka saavuttaisi "ylimaallisen koneälyn" ensin.
46. Myöhemmin samana kuussa herra Altman otti yhteyttä herra Muskiin tiedustellakseen, olisiko tämä kiinnostunut laativan kirjeen Yhdysvaltain hallitukselle koskien tekoälyä. Kaksi ryhtyi laatimaan kirjettä ja lähestymään vaikutusvaltaisia henkilöitä teknologia- ja tekoälyaloilla allekirjoittamiseen. Ei kestänyt kauaa ennen kuin alan ihmiset alkoivat kuulla huhuja kirjeestä.
47. Esimerkiksi huhtikuussa 2015 herra Hassabis otti yhteyttä herra Muskiin todeten, että hän oli kuullut useista lähteistä, että herra Musk oli laatinut kirjeen, joka oli osoitettu presidentille ja jossa vaadittiin tekoälyn sääntelyä. Herra Musk puolusti ajatusta tekoälyn säätelystä herra Hassabisille todeten: "Jos se tehdään hyvin, se saattaa hyvinkin kiihdyttää tekoälyä pitkällä aikavälillä. Ilman julkista turvallisuuden takaavaa sääntelyä saattaa hyvinkin syntyä tilanne, jossa tekoäly aiheuttaa suurta haittaa ja sen jälkeen tekoälytutkimus kielletään vaarallisena yleiselle turvallisuudelle."
48. Viisi päivää sen jälkeen kun herra Hassabis otti yhteyttä herra Muskiin avoimesta tekoälykirjeestä, herra Hassabis ilmoitti Google DeepMindin tekoälyetiikka-neuvoston ensimmäisestä kokouksesta, johon Google ja DeepMind olivat luvanneet perustaa kaksi vuotta aiemmin, kun Google hankki DeepMindin. Herra Muskia pyydettiin liittymään neuvostoon ja tarjoutui järjestämään ensimmäisen kokouksen SpaceX:llä Hawthornessa, Kaliforniassa. Herra Muskille kävi selväksi ensimmäisen kokouksen jälkeen, että tämä neuvosto ei ollut vakava pyrkimys, vaan pikemminkin kasvoton yritys hidastaa mahdollista tekoälyn sääntelyä.
49. Avoin kirje julkaistiin myöhemmin 28. lokakuuta 2015 ja allekirjoittivat sen yli yksitoistatuhatta henkilöä, mukaan lukien herra Musk, Stephen Hawking ja Steve Wozniak.
