Worden we ooit vervangen door computers (AI)?

Een van de grote vragen, die we tegenwoordig in de media zien en waar wetenschappers mee bezig zijn is de vraag of het mogelijk is een zelfbewuste kunstmatige intelligentie te bouwen en wat daarvan de gevolgen zouden zijn..
'Grote' wetenschappers als Stephen Hawking waarschuwen zelfs tegen het 'gevaar' daarvan voor de mensheid.

Stephen Hawking is briljant, maar hij is geen programmeur. Ik neem hem serieus, maar ik denk dat de waarschuwing wat prematuur is en koren op de molen van een sensatiebeluste media.

Net als met andere 'einde van de wereld' vragen, heeft de pessimist het voordeel. (Daarover later meer)

Wordt de mensheid vervangen door zelfbewuste Kunstmatige intelligenties?

Het is moeilijk deze vraag te beantwoorden, omdat we nog niet weten wat intelligentie  en vooral zelfbewustzijn precies is. We weten wel wat kunstmatige intelligentie nu kan zijn: stochastische systemen, expert-systemen, een simpele toegang tot een database, neuraal netwerk etc.
Een en ander voorzien van de mogelijkheid om door 'natuurlijke taal' met ons mensen te interageren.
Sinds kort komt daar de mogelijkheid om te leren bij.
Zelfbewustzijn in AI is nog nooit voorgekomen.

Dat is de stand van zaken en het gaat vooruit, maar de vraag is natuurlijk: waarnaartoe?

Ik kan er wel een slag naar slaan, omdat ik al mijn hele leven computers programmeer en me de laatste jaren erg heb bezig gehouden met menselijk bewustzijn.
De software wordt ingewikkelder en de resultaten zullen steeds onvoorspelbaarder worden.
Maar niet per se onbeheersbaar.
Om echt zelfbewust, intelligent EN gevaarlijk te worden, moet AI een aantal hordes nemen:

Flexibiliteit

Menselijke breinen kunnen zich ongelooflijk goed aanpassen. Deze kwaliteit zien we niet in kunstmatige intelligenties. Wij zien veel in het gedrag van een kunstmatige intelligentie, dat er niet is.
Dit komt voornamelijk, omdat een AI goed is ingespeeld op een situatie, zodra deze zich voordoet, kan hij deze snel en efficient afhandelen. Uitzonderingen daargelaten.
Een mens kan een begrip wegen tegen een context en beslissen wat ermee bedoelt wordt, wat de gevolgen ervan zouden kunnen zijn en wat hij of zij eraan wil doen. Een computer faalt bij stap 1. De meest geavanceerde Artificial intelligentie systemen lijken alleen intelligent binnen een vast gedefinieerde context. Over context en de subtiliteit ervan kun je genoeg lezen op deze blog. Vrijwel alle menselijke conflicten komen voort uit misbegrip van context. De rest komt voort uit egoisme.
Als we een beter begrip hadden van context, hadden we geen conflicten, werkten we perfect samen en hadden we dus geen artificial intelligence nodig.

Zelfmodellering

Het beste wat wij weten van ons (zelf)bewustzijn, is dat we een soort model van onszelf in ons hoofd hebben, maar ook van anderen. Daardoor kunnen we iets herkennen in een ander.
Computers kunnen ondertussen (een beetje) emoties herkennen in mensen. Ze kunnen emotionele staten herkennen, maar ze hebben niks om het op te betrekken, anders dan op ons waargenomen gedrag. Ze hebben geen eigen innerlijk leven, dus het is onmogelijk iets te 'herkennen'.
Hierdoor is er geen echt begrip van de 'ander' omdat er geen begrip is van het 'zelf''.
Ook wij begrijpen niet echt onszelf, maar we herkennen we ervaringen van een ander in onszelf.
Dit is een wonderlijk proces, dat niet goed begrepen wordt.
Wel zien we dat het voor mensen erg moeilijk is, als dit proces verstoord is om zich staande te houden in relaties (Autisme) En dan hebben we het wel over zelfbewuste mensen.

Emoties & onderbewustzijn

Emoties helpen ons om keuzes te maken, waar dat rationeel niet echt mogelijk is. We hebben voorkeuren. Dit maakt het mogelijk voor ons onderbewustzijn om 'intuitieve' ingevingen in het bewuste 'logische' systeem te brengen, zonder het logische proces te onderbreken.
Als de auto even goed loopt, heb ik liever een blauwe dan een rode. Het maakt niet uit.
Ten minste, dat denk ik. Onderzoek toonde aan dat gele en groene auto's extra zichtbaar zijn, hetgeen meer veiligheid met zich mee brengt. Waarom willen we dan niet allemaal een groene?
Waarom zijn zwart, zilver, wit en donkerblauw de klassieke kleuren voor een auto?
Deze onlogische factor in al onze denkprocessen maakt ons mensen, maakt ons feilbaar.

Feilbaarheid

Ik denk dat feilbaarheid een sleutel is tot zelfbewustzijn. Immers, we moeten beslissingen maken, daar waar niet genoeg informatie is. In plaats van een beslissing uit te stellen, totdat er wel informatie is. Een bewuste computer zal met waarschijnlijkheden moeten werken (stochastisch systeem). Dit maakt zo'n systeem feilbaar. Feilbare intelligenties hebben we genoeg, die heten mensen en ze zijn erg goedkoop om te maken, het is ongeschoolde arbeid.
Een artificial intelligence zal onfeilbaar moeten zijn, maar wel om moeten kunnen gaan met onze feilbaarheid en dat meetellen in zijn beslissingen.

Impuls tot zelfbehoud

Een van de dingen die wij hebben, maar een kunstmatige intelligentie niet (vanzelf) is een impuls tot zelfbehoud. Een computer heeft er geen bezwaar tegen uitgezet te worden. Zodra dat wel zo wordt, kan het interessanter worden. Deze zou ervoor kunnen zorgen dat een kunstmatige intelligentie gevaarlijk wordt voor ons.

Wil

Een van de dingen die wij hebben, maar een kunstmatige intelligentie niet (vanzelf) is een wil.
Een streven. Een AI is ontworpen voor een specifiek doel (zie boven bij flexibiliteit), maar dat is niet hetzelfde.
Een streven is een zelfgeformuleerd doel. Hiervoor is een gezond eigenbelang nodig. Computers hebben geen belang.

Conclusie

Alle dingen die ik hier genoemd heb, zijn nodig voor een gevaarlijk kunstmatig intelligent systeem.
Is het onmogelijk deze te bouwen? Geen idee. Maar wat nodig is, is een veel beter begrip van al deze mechanismen in onze eigen geest. Een begrip van de rol van verschillende factoren.
En dan een manier om te voorkomen dat we een computer krijgen, die 'geen zin' heeft of depressief is. Kortom, we willen slaven scheppen, met vrije wil, die ons toch blijven dienen en dat nog prettig vinden ook, er bewust naar streven.
Dat zal niet echt mogelijk zijn.
Is dan het alternatief een oorlog tussen AI en mens?
Het zou kunnen, maar het is maar een van de uitkomsten en een heel extreme.
Logischer is, dat mensen niet erg veel tijd en energie gaan steken in het ontwikkelen van een potentieel gevaarlijk systeem, omdat het commercieel gezien geen waarde heeft.
Logischer is, dat we nooit exact zullen begrijpen hoe wij in elkaar zitten en iets anders maken dan wij zijn en de grenzen van zelfbewustzijn en intelligentie opschuiven. (Dat zie je nu al met de Turing Test, er zijn wegen omheen en die worden genomen, maar het leidt niet tot AI in de klassieke zin, al lijkt het heel wat. Het intelligent lijken is kennelijk belangrijker dan intelligent zijn.)
Kortom: Met alle respect voor Stephen Hawking en anderen die de alarmbel luiden, ik maak me geen zorgen.
Wil je het zelf ervaren? Vraag het aan online artificial intelligence Mitsuku of Cleverbot.. Online artificial intelligenties die een beetje in staat lijken terzake doende antwoorden te geven, zonder dat ze iets 'snappen'