Det hænder, at jeg forbander dem, der udvikler kunstig intelligens. Senest da det kom frem, at et par forskere har udviklet en algoritme, der ud fra fotos fra dating-tjenester fortæller, om en person er homoseksuel eller ej.

Hvem husker ikke det regime, der ville elske et sådant værktøj til identificering af de anderledes? Den dag i dag er der lande, hvor homoseksualitet kan lede til fængsling og i værste fald til døden ved lynchning eller statslig henrettelse.

Ekstra forbandet blev jeg, fordi det var to forskere ved Stanford University i Californien, der havde brugt intelligens og forskningsmidler på det. Kunne de ikke have brugt begge dele til noget, der er mere brug for?

Andre vil gøre det

På Twitter nævnte jeg, at man ikke behøver at udvikle alt, bare fordi man kan, men fluks landede der følgende reaktion: ”Samme (forkerte) argument som, at man som virksomhed ikke skal kannibalisere egne produkter. Hvis du ikke gør det selv, vil andre”.

Jovist. Historien har vist, at der altid vil være nogle videnskabsfolk ivrige efter at lade sig spænde for syge regimers afsporede mål. Men historien har også lært os, at hvad forskere finder ud af på egen hånd, lynhurtigt kan bruges og misbruges enten i kommercielt eller politisk øjemed.

Afslører personlighedstræk via data

Berømmelsen skyldtes to styks publiceret forskning, der viser, at folks personlighedstræk kan aflæses alene af deres færd på websteder inklusive på Facebook og andre sociale medier. Er personen ekstrovert eller ej, af den bekymrede type eller ej, åben overfor nyt eller ej, etcetera.

Det var lige på kornet, hvad angår medieinteressen. Kunstig intelligens, der samler et puslespil af brikker, som tilsammen afslører et menneskes karaktertræk.

Publikationernes titler var ”Private traits and attributes are predictable from digital records of human behavior” og ”Manifestations of User Personality In Website Choice And Behaviour On Online Social Networks. Machine Learning”.

I 2015 fulgte Michal Kosinski, der er fra Polen, op med en publikation, hvis budskab var, at computere er dygtigere end mennesker til at bedømme personlighed.

Brexit og Trump

Kosinski fik også bred medieomtale, fordi hans forskningsmetoder kan være adopteret af analysefirmaet Cambridge Analytics, der påvirkede såvel Brexit-afstemningen som Trump-valget.

Ved man, hvad en vælger tænder på og hader, så ved man, hvordan personen bedst kan påvirkes. Så farvel til det kostbare propaganda-massebombardement via tv og aviser. Ind med den billige nålestikspropaganda på mail og Facebook, skræddersyet efter modtagerens sympatier og antipatier, og usynlig overfor afsenderens politiske modstandere.

Nul transparens

Ved det seneste amerikanske valg blandede russiske aktører sig også i prægningen for at sikre Trump valget. Facebook bekræftede for et par uger siden, at man mod betaling lod russiske profiler køre reklamer målrettet visse segmenter. Indholdet var i Clintons disfavør.

Intet medansvar

Michal Kosinski blev af mediet Motherboard i januar 2017 spurgt, om han havde en slags medansvar for vælgermanipulationen. Svaret i artiklen ”The Data That Turned the World Upside Down” lød således: ”Nej. Det er ikke min fejl. Jeg byggede ikke bomben. Jeg viste blot, at den eksisterer”.

Nu har han præsenteret endnu ”en bombe” - vist, hvorledes alene portrætfotos med ganske pæn sikkerhed afslører et menneskes seksuelle præference.

Tidligere på året kunne kinesiske forskere fortælle, at deres neurale netværk alene ud fra ansigtstræk kunne afsløre, hvem der er kriminel, og så er vi næsten sprunget ind i filmen Minority Report, hvor folk anholdes, før de begår en forbrydelse.

Kosinskis ”bombe” minder mig også om de forskere fra Storbritannien og Indien, hvis system kan afsløre et maskeret ansigt - så farvel til beskyttelse af demonstranter imod diktaturer.

Next in line er vel systemet, der afslører jøden ud fra ansigtstræk, omgangskreds, litteratur med videre. Hvis det system ikke også allerede foreligger.

Kosinki i det godes tjeneste

Ifølge Motherboard – det medie, der kiggede på Kosinski-forskning i relation til Brexit og Trump – mener forskeren sig at være på en helt anden mission, nemlig at fortælle om faren ved udviklingen.

Kan man tro på det? Vil han vitterlig advare? Jeg tog et kig på det 10 minutter lange interview, som blev vist i Norden i april 2017, få måneder efter Motherboard-artiklen. Michal Kosinski var hos Skavlan, værten for det populære svensk/norske underholdningsprogram af samme navn. Emnet var den kunstige intelligens’ overlegenhed og valgpåvirkning. Mit indtryk var ikke, at hans mission er at advare.

Ifølge Kosinski var der på sin vis intet nyt under solen. Politikere har altid forsøgt at påvirke, og begge parter i den amerikanske valgkamp havde lige gode muligheder. Desuden fik de jo folk engageret mere i demokratiet takket være de personificerede beskeder. Skavlan selv måtte pege på, at teknologien også blev anvendt til at få visse folk til at undlade at stemme.

Berømmelsens belønning

Min kyniske side bjæffede. Der er fordele ved ”15 minutes of fame” også blandt dem, der burde sigte højere - forskerne. Mange kæmper en indædt kamp om at få opmærksomhed, bevillinger og måske generøst betalt optræden ved kommercielt orienterede konferencer samt et vellønnet fellowship hos politiske tænketanke, der er blandt nutidens stærke lobbyister.

Eller har jeg overset en værdi med homo-identifikationen? Hvis signalet ligger i fysiske træk – som noget medfødt – vil det så styrke accepten af, at homoseksuel er noget, man ofte er fra naturens hånd og ikke noget, man bliver?

Vil teenageren, der er midt i en hvirvelstrøm af hormoner og i tvivl om sin seksuelle observans, mene, det er en hjælp at få afgjort spørgsmålet her og nu via en app, der rummer Kosinski-algoritmen?

Fejl og stigmatisering

Hvad, hvis app’en tager fejl? Det gør den nu i 19 procent af tilfældene, hvad angår mænd - lidt mere, hvad angår kvinder.

Vil det måske være teenagedrengens skolekammerater, der slår beviset for, at han er bøsse, op på de sociale medier – sådan bare for sjov?

Hvad med knægtens chance for at nå 1.-divisions-fodboldholdet? Vil hans foto udelukke ham fra at kunne arbejde med børn i lande, hvor homofobien er udtalt?  Vil afsløringen blive en betalbar feature på datingsites, så ham, der vitterlig kun tænder på kvinder, alligevel berøves alle chancer?

Dette er ikke en appel for at få standset forskning i ”bomber” - blot en påmindelse om, at forskere har et medansvar for at præge forskningens retning og for – når forskningen kan misbruges – at advare højlydt om konsekvenserne. Og lovgiverne i demokratierne skal lytte i tide, så befolkningen ikke prisgives et kafkask mareridt. :

Dorte Toft er freelancejournalist og blogger. Kendt fra Stein Bagger-sagen og for sit arbejde med IT-sikkerhed.