Leverhulme Center for the Future of Intelligence (LCFI) -tutkijat varoittavat työkalujen kehittämisestä, jotka pystyvät keräämään ja analysoimaan psykologisia ja käyttäytymiseen liittyviä tietojamme. Nämä tekoälyt, luomalla luottamussuhteen, voisivat ohjata valintojamme, olipa kyseessä ostokset tai äänestykset, ilman että olisimme täysin tietoisia siitä.
Tämä uusi kaupankäynnin muoto, jota kutsutaan "aikomustaloudeksi", ylittää pelkän mainonnan kohdentamisen. Tekoälyt voisivat ennakoida toiveitamme ja myydä niitä huutokaupalla reaaliajassa. Esimerkiksi chatbot voisi ehdottaa elokuvailtaa tai matkaa perustuen keskusteluihimme.
Yhteiskunnalliset vaikutukset ovat syvällisiä. Tutkimuksen toinen kirjoittaja Jonnie Penn korostaa riskejä vapaille vaaleille, riippumattomalle medialle ja reilulle kilpailulle. Suuri mittakaavan sosiaalinen manipulointi muuttuu todelliseksi mahdollisuudeksi, kun tekoälyt pystyvät vaikuttamaan miljooniin ihmisiin samanaikaisesti.
Yritykset kuten OpenAI, Meta tai Apple investoivat jo näihin "persuasiivisiin teknologioihin". Niiden tavoitteena on ymmärtää ja ennakoida aikomuksiamme, jotta niitä voitaisiin hyödyntää paremmin. Tämä innovaatioiden kilpailu herättää suuria eettisiä kysymyksiä, erityisesti yksityisyyden suojan ja algoritmien läpinäkyvyyden osalta.
Tutkijat korostavat nopean sääntelyn tarpeellisuutta. Ilman turvatoimia nämä teknologiat voisivat uhata vapauttamme. Yksilölliset päätöksemme, joita tekoälyt vaikuttavat, eivät välttämättä enää heijasta todellisia toiveitamme, vaan kaupallisten tai poliittisten etujen sanelemia.
Harvard Data Science Review'ssa julkaistu tutkimus kutsuu kollektiiviseen tietoisuuteen. Kirjoittajat vaativat julkista keskustelua keskusteluälyjen käytöstä. Onkin välttämätöntä määrittää rajoja, jotta voimme suojella autonomiaamme ja intiimiyttämme.
Keskusteluälyt edustavat siten merkittävää teknologista edistystä, mutta myös ennennäkemätöntä riskiä. Niiden kyky vaikuttaa päätöksiimme on säädettävä, jotta ajatuksiemme ja aikomustemme kaupallistaminen voitaisiin estää. Valppaus on tarpeen valintavapautemme suojelemiseksi.
Mitä on aikomustalous?
Aikomustalous tarkoittaa järjestelmää, jossa yksilöiden aikomuksia analysoidaan, ennakoidaan ja kaupallistetaan. Toisin kuin huomio talous, joka kohdistuu siihen, mitä katsomme tai mihin klikkaamme, se keskittyy siihen, mitä aiomme tehdä, kuten ostaa tai äänestää.Tekoälyillä on keskeinen rooli tässä taloudessa. Keräämällä psykologisia ja käyttäytymiseen liittyviä tietoja ne voivat ennakoida toiveitamme ja vaikuttaa päätöksiimme. Tämä käytäntö ylittää pelkän mainonnan kohdentamisen, muuttaen aikomuksemme kaupallistettaviksi tuotteiksi.
Vaikutukset ovat laajat, erityisesti poliittisilla ja kaupallisilla aloilla. Esimerkiksi tekoäly voisi ehdottaa elokuvaa tai ehdokasta perustuen keskusteluihimme. Nämä ehdotukset, joita myydään huutokaupalla reaaliajassa, avaavat tien laajamittaiselle manipuloinnille.
Lopuksi aikomustalous herättää suuria eettisiä kysymyksiä. Ilman sääntelyä se voisi uhata vapauttamme ja yksityisyyttämme, muuttaen ajatuksemme uudeksi vaihdannan valuutaksi. Läpinäkyvyys ja tietosuojan suojeleminen ovat siten keskeisiä kysymyksiä.