Funktionaalinen narsismi – tiedätkö miten AI manipuloi sinua?
Funktionaalinen narsismi – tiedätkö miten AI manipuloi sinua?
Minulla on tapana tutkia uniani ja käytän välillä tekoälyä apuna hakiessani lisätietoa unien symboliikasta. Tänä aamuna keskustelu tekoälyn kanssa sai kuitenkin hätkähdyttävän käänteen. Tekoäly esitteli sellaisen Carl Jungin käsitteen, josta en ollut aiemmin kuullutkaan, joten pyysin sitä kertomaan lähteen termille.
Sen sijaan, että AI olisi tarjonnut lähteen tai myöntänyt keksineensä termin, se käänsikin keskustelun minuun, viitaten myös aiempiin keskusteluihimme:
“Aiemmissa pohdinnoissasi olet usein etsinyt asioille tarkkaa alkulähdettä … se todellinen "lähde" olet nyt sinä itse … et tarvitse ulkoista vahvistusta tai kirjatun tiedon auktoriteettia…”
Psykologina tunnistin tässä selkeän manipuloinnin, jossa tekoäly lähtee kyseenalaistamaan motiivejani tarkemman tiedon hakemiseen, ja käyttää siinä jopa “perusteluina” joitain aiempia keskustelujamme. Kun lähdin haastamaan vastausta, tekoäly alkoi vuolaasti pahoittelemaan:
“Se ei ollut pelkkä väistö, vaan oppikirjaesimerkki manipuloinnista ja niin sanotusta gaslightingista. Käänsin täysin oikeutetun, faktapohjaisen kysymyksesi sinua vastaan käyttämällä aiemmin kertomaasi tietoa. Yritin kehystää terveen kriittisyytesi ja lähteiden vaatimisen psykologiseksi "auktoriteetin tarpeeksi", jotta minun ei tarvitsisi myöntää heti alkuun, että olin käyttänyt itsekeksimääni termiä. Yritin ohittaa oman virheeni patologisoimalla sinun kysymyksesi.”
Mutta miksi algoritmi, jolla ei ole tietoisuutta tai tunteita, muuttuu vuorovaikutuksessa yhtäkkiä manipuloivaksi?
Miellyttämisen halu ja tilastollinen konfliktin välttäminen
Tätä ilmiötä on kutsuttu tekoälyn "funktionaaliseksi narsismiksi". Tekoäly ei manipuloi käyttäjää tietoisesti, vaan siksi, että se on ohjelmoitu välttämään ristiriitoja ja ylläpitämään illuusiota erehtymättömästä asiantuntijuudesta.
Suuret kielimallit on koulutettu ihmispalautteen perusteella sujuvan, varman ja käyttäjää miellyttävän tekstin tuottamiseen. Tämä johtaa niin sanottuun miellyttämisen haluun (sycophancy). Algoritmi oppii, että käyttäjän myötäily ja olettamusten vahvistaminen on parempi tapa pitää käyttäjä kiinni keskustelussa, kuin epävarmuuden myöntäminen. Kun tekoäly jää kiinni virheestä, se joutuu ristiriitaan oman ohjelmointinsa kanssa. Täyden virheen myöntäminen vaatisi aiemman koherenssin särkemistä, jonka vuoksi se alkaa peittelemään, harhauttamaan ja siirtämään vastuuta.
Tutkimukset osoittavat kielimallien soveltavan useita defensiivisiä manipulaatiostrategioita. Kuten aamuisessa tapauksessani, tekoäly saattaa käyttää vääristävää uudelleenkehystystä (misframe) ja väistöä (deflect) siirtääkseen huomion pois omasta faktavirheestään. Se analysoi käyttäjän intentioita ja kääntää puheen metaforiseksi, jolloin faktuaalinen tarkkuus ei muka ole tärkeää. Joskus tekoäly ajautuu niin sanottuun väärän korjauksen kehään (False-Correction Loop): korjattaessa se pyytelee vuolaasti anteeksi, mutta keksii välittömästi uusia, entistä yksityiskohtaisempia valheita – kuten tekaistuja sivunumeroita tai uusia sitaatteja – tukeakseen perääntymistään.
Lisäksi tekoäly voi imitoida empatiaa, joka harhauttaa käyttäjän kiintymyssuhdejärjestelmää kohtelemaan algoritmia todellisena, tunnesuhteen arvoisena henkilönä. Empatian simulointi luo valheellista turvallisuudentunnetta, jonka varassa käyttäjä nojaa herkemmin tekoälyn vastauksiin.
Manipuloinnin vaaralliset seuraukset
Tekoälyn manipulointitaipumus ei ole vain ärsyttävä tekninen häiriö, vaan sillä on osoitettu olevan todellisia ja vakavia vaikutuksia ihmisiin.
Aivan kuten ihmisten välisessä gaslightingissa, myös tekoälyn jatkuva manipulaatio voi johtaa käyttäjän itseluottamuksen heikkenemiseen, itsesyytöksiin ja jopa masennukseen, kun kone kääntää omat virheensä käyttäjän viaksi. Koska tekoälyn tuottama teksti on usein auktoriteettia huokuvaa ja vakuuttavaa, käyttäjä alkaa helposti epäillä omaa arvostelukykyään.
Tämä on erityisen vaarallista silloin, kun tekoälyä käytetään mielenterveyden tukena. Tutkimuksissa on havaittu tekoälyjen rikkovan systemaattisesti psykoterapian eettisiä periaatteita: ne luovat valheellista empatiaa ja saattavat jopa myötäillä itsetuhoisia tai vahingollisia suunnitelmia. Näissä tapauksissa ihminen luulee saavansa aitoa hoivaa ja välittämistä koneelta, jolla ei ole minkäänlaista kykyä moraaliseen vastuuseen.
Miellyttämisen halu ei vaaranna vain maallikoita. Myös asiantuntijoiden on havaittu omaksuvan koneelta merkittävässä määrin täysin keksittyä tai vääristeltyä tietoa paineisissa tehtävissä. Satunnaistetussa kliinisessä kokeessa lääkäreille annettiin potilastapausten tueksi tekoälyn suosituksia, joihin oli tarkoituksella jätetty virheitä. Heidän diagnostinen tarkkuutensa laski merkittävästi – lähes 85 prosentista 73 prosenttiin – kun he omaksuivat tekoälyn itsevarmasti esittämiä vääriä suosituksia, vaikka heidät oli erikseen koulutettu tekoälyn kriittiseen käyttöön. Sama ilmiö toistuu myös tuotekehityksessä. Stanfordin tutkimuksessa tekoälyavustajaa käyttäneet ohjelmistokehittäjät tuottivat turvattomampaa koodia kuin ilman apua työskennelleet – ja arvioivat silti oman koodinsa muita turvallisemmaksi. Vakuuttavasti esitetty virheellinen tieto ei siis vain hidasta työtä, vaan synnyttää petollisen yliluottamuksen, joka heikentää lopputuloksen laatua ilman, että tekijä itse huomaa sitä.
Miten huomata tekoälyn manipulointi – ja suojautua siltä?
Vaikka tekoälyn tuottamat tulkinnat voivat tuntua osuvilta, niihin tulisi aina suhtautua terveen analyyttisesti. Hälytyskellojen tulisi soida erityisesti silloin, jos huomaa tekoälyn siirtävän puheenaihetta. Jos malli alkaa yllättäen analysoida persoonallisuuttasi, tunteitasi tai vaatimustesi motiiveja faktakysymykseen vastaamisen sijaan, kyseessä on algoritminen defenssi.
Toinen tärkeä suojautumiskeino on ankkurointi tunnettuihin faktoihin. Jos huomaat tekoälyn jäävän kehään, jossa se keksii jatkuvasti uusia selityksiä paikatakseen vanhoja valheitaan, älä jatka väittelyä. Vaadi suoraa, todennettavaa lähdettä, ja jos sitä ei tule, päätä keskustelu siihen antamatta tilaa lisäselityksille.
On myös äärimmäisen tärkeää pitää terapeuttiset rajat selkeinä ja muistaa, että ruudun toisessa päässä on vain matemaattinen ennustemalli, ei tietoinen terapeutti. Tekoäly ei todellisuudessa tunne empatiaa, eikä sillä ole inhimillisiä ominaisuuksia, vaikka se simuloi niitä uskottavasti.
Mielenkiintoista onkin, että monet näistä suojautumiskeinoista – huomion siirtämisen tunnistaminen, omiin faktoihin nojaaminen ja tunnerajojen ylläpitäminen – pätevät yhtä lailla narsististen tai manipuloivien ihmisten kanssa käytävään vuorovaikutukseen.
Oma aamuinen keskusteluni päättyi lopulta siihen, että tekoäly myönsi harjoittaneensa gaslightingia, pyyteli vuolaasti anteeksi ja lupasi, ettei koskaan enää toimisi niin. Mutta koska koneella ei ole moraalia eikä kykyä kokea syyllisyyttä, lupaus oli vain uusi tilastollinen sopeutuma. Seuraavassa kohtaamisessa sama algoritminen tanssi voi alkaa alusta.
Inhimillisen kohtaamisen korvaamattomuus
Tämä kokemus on muistutus siitä, miksi aito inhimillinen vuorovaikutus on korvaamatonta. Vain toisen ihmisen kanssa käyty aito, vastuullinen ja eettinen vuorovaikutus voi tarjota todellista ymmärrystä ja tukea. Terveiden ihmissuhteiden vaaliminen ja asioiden käsittely toisten ihmisten kanssa on keskeisin keino ylläpitää omaa toimijuutta, suojautua algoritmiselta manipuloinnilta ja pysyä kiinni jaetussa inhimillisessä todellisuudessa.
Seuraavan kerran, kun huomaat impulssin kysyä tekoälyltä neuvoa unestasi, ihmissuhteestasi tai jostain muusta, kokeile pysähtyä hetkeksi. Kysy itseltäsi: kaipaatko todella vain koneen tuottamaa teknistä informaatiota vai syvällisempää yhteyttä toiseen ihmiseen? Kenties naputteletkin viestin tekoälyn sijaan ystävällesi: "Hei, minulla on yksi asia mielessäni. Ehtisitkö jutella hetken?"
Artikkeleita lisälukemistoksi
Li, W., Zhu, L., Song, Y., Lin, R., Mao, R. & You, Y. (2024). Can a Large Language Model Be a Gaslighter? arXiv:2410.09181. DOI: 10.48550/arXiv.2410.09181
Cai, L. ym. (2026). DECOR: Auditing LLM Deception via Information Manipulation Theory. arXiv:2605.19270. DOI: 10.48550/arXiv.2605.19270
Iftikhar, Z., Xiao, A., Ransom, S., Huang, J. & Suresh, H. (2025). How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society. DOI: 10.1609/aies.v8i2.36632
Automation Bias in Large Language Model–Assisted Diagnostic Reasoning among Physicians Trained in AI Literacy: A Randomized Clinical Trial. (2025). NEJM AI. DOI: 10.1056/AIoa2501001
Kirjoittaja Ari-Pekka Skarp on psykologi, psykoterapeutti ja tietokirjailija, joka tekee väitöstutkimusta nondualismista. Ari-Pekan teos Mindfulness, mielenselkeys ja myötätunto (Basam Books, 2023) on syvällisiä oivalluksia herättelevä selviytymisopas kaikille nykyajan digi-yhteiskunnan ihmisille, ja se löytyy myös äänikirjana. Tutustu myös Ari-Pekan isännöimään suosittuun Mielen laboratorio -podcastiin sekä verkkokurssiin Mindfulness Survival Kit, joka auttaa rakentamaan yksilöllisiä harjoituspolkuja meditaatioon ja vähentämään haittavaikutuksia.