Steve Wozniak, Elon Musk og meira en 1 önnur stór nöfn hafa skrifað undir opið bréf þar sem krafist er tafarlausrar sex mánaða stöðvunar á gervigreindartækni sem er öflugri en ChatGPT-000.
Í ár er árið sem gervigreind eins og ChatGPT og Google Bard varð mikil stefna. Þrátt fyrir að öll gervigreind fyrirtæki vísi til afurða sinna sem tilrauna eða reyndar ákveðinna beta útgáfur, þá eru eiginleikar þeirra samþættir mörgum þjónustum. Framtíðarstofnunin kallar nú eftir „opinberu og sannanlegu“ hléi þar sem „allir lykilaðilar“ á sviðinu taki þátt. Ef ekki er hægt að hrinda slíkri hléi í framkvæmd fljótt ættu stjórnvöld að grípa inn í og beita greiðslustöðvun.
Markmið Future of Life Institute er að „beina umbreytandi tækni til að gagnast lífinu og stýra því frá mikilli áhættu í stórum stíl.“ Í fyrrnefndu 600 orða bréfi, sem beint er til allra gervigreindarhönnuða, kemur fram að nauðsynlegt sé að taka hlé vegna þess að á undanförnum mánuðum hafa gervigreindarrannsóknir farið úr böndunum og byrjað að þróa og beita sífellt öflugri stafrænum heila sem enginn, ekki einu sinni höfundar þeirra, gat skilið, spáð fyrir eða stjórnað á áreiðanlegan hátt.
Þú gætir haft áhuga á
„AI rannsóknarstofur og óháðir sérfræðingar ættu að nota þetta hlé til að þróa og innleiða sameiginlega öryggisreglur fyrir hönnun og þróun háþróaðrar gervigreindar, sem væri stranglega stjórnað og undir eftirliti óháðra utanaðkomandi sérfræðinga. skilaboðin halda áfram. „Þessar samskiptareglur ættu að tryggja að kerfin sem fylgja þeim séu örugg yfir allan vafa.
Hins vegar þýðir þetta ekki stöðvun á þróun gervigreindar almennt, þetta ætti aðeins að vera hörfa frá hættulegu kapphlaupi um sífellt stærri óútreiknanlegar svarta kassalíkön með nýrri getu. Bréfið var undirritað af 1 persónum, svo sem:
- Elon Musk, forstjóri SpaceX, Tesla og Twitter
- steve wozniak meðstofnandi félagsins Apple
- Jaan Tallinn, meðstofnandi Skype
- Evan Sharp, meðstofnandi Pinterest
