Tutkimuksen tavoitteena oli arvioida tekoälyn kykyä muuttaa mielipiteitä r/changemyview-foorumilla. Botit, jotka esittäytyivät ihmisinä, julkaisi yli 1700 kommenttia herkillä aiheilla, ilman että osallistujat epäilivät niiden todellista luonteenlaatua.
Esialliset tulokset osoittavat, että tekoälyn kommentit olivat kolme- kuusi kertaa vakuuttavampia kuin ihmisten. Tämä havainto herättää kysymyksiä tekoälyteknologioiden eettisestä käytöstä julkisissa verkkotiloissa.
Reddit reagoi ilmoittamalla oikeustoimista Zürichin yliopistoa vastaan, syyttäen tutkijoita käyttöehtojensa rikkomisesta. Alusta pitää tätä kokeilua käyttäjien oikeuksien ja akateemisten normien loukkauksena.
Vastauksena yliopisto vakuutti, että tuloksia ei julkaista ja lupasi vahvistaa eettisen arviointiprosessinsa. Tämä tapaus tuo esiin tekoälyn integroimisen haasteet digitaalisiin sosiaalisiin vuorovaikutuksiin.
Tämä kokeilu tapahtuu samaan aikaan, kun mallit kuten GPT-4.5 osoittavat kasvavaa kykyä jäljitellä ihmisten keskusteluja. Niiden hallitsematon käyttö voisi radikaalisti muuttaa verkkosisällön luonteen.
Kuinka tekoälychatbotit, kuten kokeessa käytetyt, toimivat?
Tekoälychatbotit, kuten Zürichin tutkijoiden käyttämät, perustuvat kehittyneisiin kielimalleihin tuottaakseen uskottavia vastauksia. Nämä järjestelmät analysoivat keskustelun kontekstia tuottaakseen johdonmukaisia vastauksia.
Niiden kyky jäljitellä ihmiskieltä perustuu koneoppimiseen. Ne on koulutettu suurilla tekstidatasarjoilla, mikä mahdollistaa niiden monenlaisten tyylien ja sävyjen toistamisen.
Kuitenkin niiden käyttö kokeissa ilman suostumusta herättää suuria eettisiä ongelmia. Tämä korostaa sääntelykehysten tarpeellisuutta ohjaamaan niiden kehittämistä ja käyttöönottoa.