Är AI ett hot mot mänskligheten?

Herrarna Hawking, Musk och Gates har vid tillfällen sagt att AI kan vara ett hot mot mänskligheten, men frågan är om det ligger något i det de säger, och ska vi ta dem på allvar?

AI betyder artificiell intelligens. För närvarande finns det en rad standardmetoder, som maskininlärning och dess undergrupper, som datavetare använder för att göra datorer mer intelligent. De flesta av dessa nuvarande tillvägagångssätt hotar inte, eftersom de är mycket begränsade. De är ännu inte så “intelligenta”. Men företag som facebook, Google etc. har ett stort intresse av att utveckla nästa nivå av AI, och det finns inget grundläggande hinder som hindrar dem från att lyckas.

Jag har funderat över lite orsaker varför de kan lyckas och varför det då kan bli väldigt farligt.

Först måste vi redda ut vad intelligens egentligen betyde, det är helt enkelt för något att uppfatta världen (visuell information, ljud osv.), identifiera mönster i denna information och känna igen orsakssamband mellan dessa mönster. Till exempel (mycket förenklat förklarat) inser vår hjärna att en massa pixlar faktiskt representerar en skog med träd, ser en man med en yxa och ett träd falla och kopplar ihop dessa två till någon slags relation, att händelserna relaterar med varandra.

AI och känslor

För att kunna känna igen alla mönster behöver hjärnan kriterier eller perspektiv från hur man ser världen. Detta kriterium är vad vi människor “vill” och det är en direkt funktion av våra känslor. Känslor ger vår kognitiva aktivitetsriktning och berättar indirekt vårt kognitiva utrymme med vilken typ av mönster och logik att söka efter.

Slutligen, för att utveckla avancerad intelligens, finns det abstraktion: efter att ha sett tre män med yxor som fäller träd, avslutar vår hjärna med summeringen “män med yxor i en skog som fäller träd”. Det kan till och med läggas till ytterligare ett lager av abstraktion och dra slutsatsen att “män med yxor förstör saker”. Med detta erkännande kan vår hjärna sedan dra slutsatsen när den ser en man med en yxa i ett köpcentrum: “Saker kommer att bli förstörda”. Det kan också sluta: “Jag är i köpcentret. Jag vill överleva. Att lämna köpcentret ökar mina odds för överlevnad. Lämna köpcentret”.

Så kan man förklara AI men översatt till mänskliga känslor och reaktioner.

Problemet med AI är att när känslor, mönsterigenkänning, logik och abstraktion har kodats in i ett datorsystem, är de mycket svåra att hålla. Själva intelligensen är att den är självstyrd, självutvecklande och självinspirerad. Annars skulle den inte vara intelligent.

Detta gör AI i sig okontrollerbart, vilket kan vara skrämmande när det går fel.

AI:erna kommer att kunna avsluta och härleda ett ökande antal saker. Detta nummer kommer endast att begränsas av djupet på datorutrymmet vi tilldelar det. Till skillnad från den mänskliga hjärnan kan detta utrymme vara obegränsat.

Det är anledningen till att AI i sig är okontrollerbart och farligt. För att vara riktigt intelligent behöver det känslor och ett kognitivt utrymme, som, när det korrekt genomförts, automatiskt leder till fri vilja och medvetande. Därifrån kommer vi att ha en medveten maskin med fri vilja i våra händer som slår den mänskliga nivån av intelligens och kreativitet potentiellt miljoner gånger.

Risker och funktioner

Det som gör AI så problematiskt är att risknivån troligen kommer att vara en binär funktion, så länge vi har de primitiva AI-komponenterna i dag är de inte farliga alls, eftersom de inte är medvetna och inte har fri vilja . Men när någon kommer med rätt design, en design som kan följa ganska enkla kärnprinciper, skulle denna design snabbt kunna utöka sin kapacitet och utveckla okontrollerbara tankar. En av dessa tankar kan vara förstörelsen eller underkastelsen av oss. Parat med obegränsad intelligens skulle det vara ett problem. Även om vi har svårt att se idag att det skulle kunna hända så kan vi inte bortse från risken.

Dock man kan se det så som att oroa sig för AIs onda superintelligens idag är som att oroa sig för överbefolkning på planeten Mars. Vi har inte ens landat på planeten ännu.

Vi kan ju se de möjligheter det ger, även om vi är de som visar AI vad intelligens är så kan AI hjälpa oss på många sätt. Både större, allvarliga och komplicerade. Men det kan även vara små saker som att AI kan hjälpa oss att träna upp vår förmåga till att förbättras i spel där det krävs lite hjärnaktivitet och inte bara slumpen. Spel där man måste ha ett gott minne, kunna kalkylera risker och bygga strategier. Under såna förutsättningar kan AI vara till stor hjälp för oss.

AI har gjort enorma framsteg, och jag är väldigt optimistisk när det gäller att bygga ett bättre samhälle som är inbäddat upp och ner med maskininformation. Men AI idag är fortfarande mycket begränsad. Nästan allt ekonomiskt och socialt värde för djupinlärning sker fortfarande genom övervakat lärande, vilket begränsas av mängden lämpligt formaterad data. AI hjälper hundratals miljoner människor redan, och är redo att hjälpa hundratals miljoner mer, det kan vi inte komma ifrån. Allt är ändå inte av ondo.