De eerste klachten komen binnen van wedstrijden voor korte verhalen en redacties van tijdschriften: er worden massaal verhalen ingezonden die niet geschreven zijn door de auteurs, maar die zijn geschreven door AI vanuit opdrachten die de 'auteurs' hebben gegeven. Waar staat AI en waar gaan we heen? 

Op dit moment hebben goede jury-leden en redacties het in de gaten wanneer de schrijver niet-menselijk is. Misschien moet je zeggen: op dit moment zijn de beste AI-verhalen vergelijkbaar met gemiddelde menselijke verhalen. AI heeft veel nog niet onder de knie. Maar ook nu al zijn sommige jury's en redacties verdeeld. Er zijn voorbeelden waarin door AI geschreven verhalen door jury-leden geprezen worden en niet herkend als AI-product. 
Nu kun je natuurlijk zeggen: wat je dan ziet is de goede vraagstelling van de 'auteur' aan zijn AI, dus de kwaliteit van de input waarmee de AI aan het werk wordt gezet. En daar zit zeker iets in: er zijn verschillen in programmeer-vaardigheden en die zullen zichtbaar worden. Het zijn niet schrijfvaardigheden, maar toch wel vaardigheden. Je meet iets, maar iets anders.

Ik denk dat AI de nog ontbrekende vaardigheden snel onder de knie zal hebben. Leren is AI's core-business, AI zal door feedback snel weten wanneer dialogen realisatisch worden, hoe ontwikkeling van personages gewaardeerd wordt, welke plots hoog scoren en wanneer mensen al lezend afhaken. Misschien nog een paar jaar en dan is de beste redactie niet meer in staat om de beste menselijke schrijver te onderscheiden van de beste AI-schrijver.
Als u mij te negatief vindt: twintig jaar geleden gold schaken als de toetssteen, het spel zou veel te gecompliceerd zijn - inmiddels hebben menselijke schakers geen schijn van kans. Daarna gold Go als de onmogelijke opgave voor computers omdat het spel niet met gewoon keihard doorrekenen gewonnen kan worden. Inmiddels hebben computers de benodigde intuïtie (!) en het strategisch gevoel (!) ontwikkeld. Niet door slim programmeren, niet door het vergroten van rekencapaciteit of door een andere truc van grof ICT-geweld, maar door de totaal nieuwe aanpak: machine-leren. Deze nieuwe aanpak - lees er eens over! - maakt van computers totaal andere machines dan we gewend zijn.

Mijn eerste stelling: wie denkt dat er een grens is aan de ontwikkeling van AI ('dit zal een AI nooit kunnen'), die steekt zijn kop in het zand. AI is er, AI verdwijnt niet en AI kan (binnenkort) alles wat mensen kunnen.

De ontwikkeling van AI stuit natuurlijk ook op weerstand. We willen dit niet, we hebben dystopische beelden bij wat er kan gebeuren als AI slimmer wordt dan mensen. Ik denk dat veel van de angst terecht is - de wereld die er aankomt, zal totaal anders zijn dan de onze. Wat die wereld gaat inhouden, kunnen we niet voorspellen. De meeste SF die zich hiermee bezig houdt, maakt ons niet heel optimistisch (al zijn veel beelden natuurlijk niet ingegeven door een poging een echte ontwikkeling te beschrijven, maar om spectaculaire verhalen te vertellen).
De mens zal ongetwijfeld proberen om met regelgeving en ethische overwegingen die ontwikkeling van AI te sturen. Ik denk dat het niet veel gaat uitmaken - en dat het trouwens daarvoor te laat is. De technologie is er, het is nog nooit in de menselijke geschiedenis gebeurd dat iets wat kon vervolgens niet werd gebruikt.
Het probleem is vermoedelijk niet dat AI zich opstandig of onderdrukkend zal ontwikkelen (hoewel: zeg nooit nooit), maar dat de mens niet in staat is aan zichzelf beperkingen op te leggen.

Mijn tweede stelling is dus: we gaan de ontwikkeling niet kunnen stoppen en vermoedelijk zelfs niet kunnen bijsturen. De focus van ons denken moet dus liggen op: 'welke plek willen wij in die nieuwe wereld innemen en hoe gaan we dat organiseren?'

Een nog verder gaande vraag is of AI ooit bewustzijn zal ontwikkelen. Dat dit een lastige vraag is, komt volgens mij vooral door de problemen met het definiëren van bewustzijn. Vaardigheden, zowel intellectueel als communicatief, zijn voor AI geen enkel probleem. Daarin volledig 'menselijk' gedrag tonen is een kwestie van leren en dus een kwestie van tijd. Hetzelfde geldt voor allerlei zaken die wij als echt menselijk zien: twijfel, ethische overwegingen, medemenselijkheid, solidariteit, inlevingsvermogen, doorzettingsvermogen, noemt u maar op. Ze zijn natuurlijk volledig menselijk, maar in ons eigen denken en voelen en overwegen spelen processen die in een elektronische omgeving goed te simuleren en te leren zijn. Het ellendigste (?) moment is daar wanneer de simulatie zo goed is dat niet meer wordt ervaren dat het een simulatie is. Het criterium van Turing geldt volgens mij ook hier. Als je het verschil niet meer ervaart- wat maakt het dan uit hoe je het noemt?

Het lijkt me nuttig om eens breed te beginnen met nadenken en discussiëren. En dan niet alleen in de heel beperkte bubbel van de science fiction, waar al decennia de grenzen worden verkend.

In het gerelateerde boek 'De dokter in het donker' is één van de thema's de AI die medische diagnoses stelt - één van terreinen waarin de kunstmatige intelligentie veel verder is dan de meeste mensen denken. Of hopen. Of zouden willen. De schrijver (=ik) heeft een optimistisch wereldbeeld en ik denk dat het ook zo zal kunnen. We moeten daar wel voor kiezen - het zal niet vanzelf gaan. 

De sf-wereld stormt ook bij u binnen!