Google CEO Sundar Pinchai waarschuwt: Onverantwoord om AI los te laten op samenleving
De mensheid moet zich voorbereiden op een snellere ontwikkeling van kunstmatige intelligentie (AI) dan men misschien graag zou willen. Daarvoor waarschuwde Sundar Pichai, de hoogste baas van Google, dit weekend in het tv-programma 60 Minutes. Volgens Pichai duiken er steeds geavanceerdere AI’s op die de komende jaren de arbeidsmarkt zullen verstoren en voor veiligheidsproblemen gaan zorgen.
Eerder al hadden grote namen uit de tech-industrie opgeroepen om tijdelijk te stoppen met het ontwikkelen van AI-systemen zolang niet duidelijk is wat de precieze consequenties ijn van deze snelle ontwikkelingen. Pichai herhaalde die oproep zondag en riep overheden op om snel wetgeving te ontwikkelen die de onbeperkte groei van AI reguleert.
Pinchai denkt dat de arbeidsmarkt niet meer hetzelfde zal zijn wanneer AI volledig wordt geïntegreerd. Dat kan positief zijn: “Wanneer je bijvoorbeeld een radioloog bent die honderd medische gevallen moet doornemen. De AI kan dan bepalen: dit zijn de ergste zaken waar je eerst naar moet kijken.” Tegelijkertijd denkt Pinchai ook dat AI in veel sectoren voor groot baanverlies zal zorgen, vooral bij kenniswerkers als schrijvers, accountants, architecten en software-ingenieurs.
Ook Google zelf werkt aan een AI. Pinchai erkende zondag dat dit systeem zich inmiddels zo ontwikkeld heeft dat niemand nog exact begrijpt hoe het werkt. Zo bleek dat een van de Google-programma’s zichzelf de Bengaalse taal had aangeleerd, zonder dat het hiervoor geprogrammeerd was. De ingenieurs van Google hebben geen verklaring voor waarom het programma dit heeft gedaan.
Volgens Pinchai is het dan ook onverantwoord om dergelijke AI-systemen ‘los te laten op de samenleving’ zonder dat er een volledig begrip is van de technologie. Het grootste probleem schuilt er volgens de Google CEO in dat de technologie zich veel sneller ontwikkelt dan dat mensen in staat zijn zich aan te passen aan nieuwe ontwikkelingen.
Elon Musk, eigenaar van onder andere SpaceX, Tesla en Twitter, ging onlangs zelfs nog verder dan Pinchai in zijn waarschuwingen. Volgens hem heeft AI de potentie “de beschaving te vernietigen”. Dat weerhoudt Musk er echter niet van zijn eigen AI-startup te lanceren, TruthGPT dat een directe concurrent moet worden van het door Microsoft gesteunde ChatGPT van OpenAI.
Praat mee
Heb je een vraag, suggestie of wil je gewoon iets kwijt? Dat kan hier. Lees onze spelregels.
Reacties (20)
“ Tegelijkertijd denkt Pinchai ook dat AI in veel sectoren voor groot baanverlies zal zorgen, vooral bij kenniswerkers als schrijvers, accountants, architecten en software-ingenieurs.” Dit argument wordt al sinds Karl Marx geopperd bij elke innovatie en nog nooit is er massawerkeloosheid ontstaan…
"nog nooit is er massawerkeloosheid ontstaan" Er staat niet werkeloosheid er staat baanverlies. En dat gebeurt geregelt op massale schaal bij technische innovatie en bezit monopolie. Prive spinners gingen stuk voor stuk failiet of verdwenen toen fabrieken het begonnen te doen. Hoe lang die werkeloos waren of hoe slecht hun vervolg baantje daar kan je boeken over schrijven maar dat zou te gedaitaieerd zijn voor de gemiddelde lezer. Het ligt voor de hand dat er deze keer ook massas banen verdwijnen.
@Zo bleek dat een van de Google-programma’s zichzelf de Bengaalse taal had aangeleerd, zonder dat het hiervoor geprogrammeerd was. De ingenieurs van Google hebben geen verklaring voor waarom het programma dit heeft gedaan. ------------------------- Ik ben geen ingenieur, laat staan een van Google, maar ik heb daar, met mijn eigenwijze kop, toch wel een verklaring voor. Stop miljoenen pagina's Bengaalse tekst met hun vertalingen in de computer. Met de snelheid van het licht, en geloof me, dat is heel snel, worden al deze vertalingen geanalyseerd. Het resultaat zal zijn: een bijna perfecte beheersing van de Bengaalse taal. 100% AI, in dit geval. Ondanks dat ik soms ook sceptisch ben, is het wel de vooruitgang.
Google en Twitter zijn bang voor Microsoft en OpenAI. Het publiek denkt bij AI aan wat Netflix series en zo hopen Google en Twitter dat er even wat wetgeving komt zodat ze Microsoft en OpenAI bij kunnen benen.
Alsof de CEO van een groot chemieconcern de overheid erop aanspreekt dat zij de burgers niet in voldoende mate beschermt tegen de nieuwe soort chemicaliën die zij aan het lozen zijn. In Silicon Valley schamen ze zich nergens meer voor. Niet zo gek dat mensen op zoek gaan naar een sterke leider.
Hé, dit is wat de grote spelers in de computer wereld op de koop toe hebben genomen om ons allemaal internet door de strot te douwen, incluis overheden. Dat dit staat te gebeuren is al decennia bekend.... But everybody should be connected. Right? NLP trucjes "We zijn allemaal verbonden" Beste wat je kunt doen is AI dat is staat is ons bedreigende AI te produceren te vernietigenen, desnoods met TNT. Computers, software en internet zijn de grote bedreiging van alles ipv de oplossing voor alles. Dus doe even lekker disconnecten van alles. De chipjes uit Arcadia (het chippen van mensen) is niet zo ver van je bed meer hoor. Je hebt dagelijks al een chip op zak, je telefoon....
Je moet er niet aan denken dat AI wordt gekoppeld aan atoomwapensystemen. Dan blijft de zelfvernietiging van de mensheid geen dystopisch verhaal, maar wordt die een reële mogelijkheid.
Mensen willen liever korte termijn voordelen dan lange termijn voordelen. En de race naar technologische en financiële dominantie zal echt niet stoppen door dit soort oproepen. Dat we op een kantelpunt zijn gekomen is mij wel duidelijk. We zullen het allemaal gaan meemaken. Een ethische AI (inclusief fail-safe) is de uitdaging.
Men huurt ethici vooral voor de marketing en legale dekking. Ook bij AI wapens bijvoorbeelt.
Heel bedreigend die AI, vooral voor miljardairs. Hilarisch dat uitgerekend de eigenaar van Twitter waarschuwt voor technologie die de beschaving zou aantasten. AI is zonder meer een bedreiging voor Twitter. Er zwerft een vermakelijk filmpje op YT van een AI specialist die een niet eens zo snuggere chatbot had losgelaten in een extreem rechts kanaal op reddit. Wie heeft nog wat te zoeken op Twitter als een groot deel van de content door trollende en spammende AI bots wordt gegenereerd?
Ik vind het tweeledig. 1, hij heeft een punt. 2, hij heeft er (net als Elon Musk) een zakelijk belang bij.
Google lijkt de boot te missen op gebied van AI. En met een tijdelijke stop hoopt men bij Google de achterstand in te lopen. Heeft niets met angst te maken.
Allicht wil hij een (tijdelijke) stop op AI. Google loopt achter op MS en kan wel wat extra tijd gebruiken.
Het wordt toch echt tijd de auto uit de stad te verbannen. Die dingen zijn gewoon te groot, te zwaar en te snel voor de stad. Verder neemt de auto (en al het toebehoren) ongeveer 50% van de publieke ruimte in beslag. Dat is echt belachelijk veel in verhouding. Zijn erbij de stad meteen af van alle drempels en stoplichten. En ja toeleveranciers en gehandicapten kunnen gewoon de stad in blijven rijden.
Een auto denkt niet zelf...tenminste, destijds nog niet. Maar een AI laten beslissen over leven en dood; of iemand wel of niet voor behandeling in aanmerking komt, lijkt je dat een goed idee? Die AI beslist overigens nu al voor een groot deel wat jij te zien krijgt als je een zoekopdracht in Google uitvoert. Bijvoorbeeld. Als jij iets te lang naar een extremistische of fake-news website hebt gekeken, krijg je meer van dat voorgeschoteld. En op Youtube gebeurt dat zelfs zónder dat je iets vraagt. Je wordt gemanipuleerd waar je bijstaat, en zelfs al ben je je daar bewust van, denk maar niet dat je er immuun voor bent. Wees niet zo naïef man
"Een auto denkt niet zelf...tenminste, destijds nog niet." Denk je? Want er zijn inmiddels gevallen bekend van tesla's die nogal vreemde manoeuvres uithaalden zonder opdracht van de bestuurder
Labou “ Denk je? Want er zijn inmiddels gevallen bekend van tesla's die nogal vreemde manoeuvres uithaalden zonder opdracht van de bestuurder ” Jij vindt dat wellicht heel knap, maar het is geen denken. Het is reageren. Zoals een een lamp aangaat via een lichtsensor.