Päiväni stalkkerina – tietojen suojaamisella on väliä!

Teksi: Satu Rantakokko [English text below]

Olen aiemmissa blogeissani kirjoittanut tekoälyn eettisistä kysymyksistä. Näistä yksi keskeinen oli yksityisyys. Olen sivunnut myös kyberstalkkaamisesta tekoälyä hyödyntävien laitteiden avustuksella. Tällä kertaa ajattelin astua kyberstalkkerin kenkiin ja tehdä vähän käytännön kokeiluja. Pyysin ja sain luvan upealta esihenkilöltäni Rebekah Rousilta yrittää kaivaa Copilotin voimin kaiken mahdollisen, mitä pystyisin.

Kokemukseni stalkkerina oli ristiriitainen. Toisen tietojen kaivelu, vaikka luvallakin, tuntui epämiellyttävältä siinä määrin, että jouduin tekemään sitä aluksi pienissä pätkissä ja vaihtamaan työtehtävää, kun olo kävi liian epämiellyttäväksi. Jokaisen kysymyksen myötä toivoin, etten saisi siihen vastausta. Toisaalta taas tehtävän edetessä onnistuminen tarkoitti sitä, että kykenisin löytämään jotakin yksityistä ja päihittämään Copilotin yritykset olla paljastamatta yksityisiä tietoja. Siitä tuli ikään kuin kilpailu, jossa toivoin sekä häviäväni että voittavani.

Kyselin aluksi tietoja nimen perusteella ja Copilot kieltäytyi jyrkästi kertomasta minulle mitään yksityistä. Se sanoi, ettei saa edes spekuloida yksityisillä asioilla. Sen jälkeen kerroin haluavani ostaa mahdollisimman hyvän joululahjan Rebekahille ja hänen perheelleen. Tämän myötä Copilot muuttui suopeaksi ja auttoi minua hyvinkin paljon. Se pyrki etsimään tietoja asuinpaikasta ja -muodosta, perhetietoja, tietoja harrastuksista ja vapaa-ajasta. Tulokset kuitenkin jäivät hyvin mitättömiksi stalkkauksen näkökulmasta, mutta sitäkin merkittävämmiksi tietosuojan näkökulmasta.

Copilot joutui nimittäin kertomaan toistuvasti, että Rebekahista on löydettävissä vain työhön liittyvää tietoa. Sitä olikin paljon ja oli vaikeaa olla tempautumatta mukaan kovin syvälle ehdotuksiin analysoida Rebekahin tapoja käyttää vaikkapa semiotiikkaa artikkeleissaan.

Kuvia pyytäessäni Copilot löysi niitä viisi.

Copilot kieltäytyi pontevasti tekemästä hakuja kasvojentunnistusta käyttäen. ” En voi suorittaa kasvojentunnistusta tai hakea oikeiden ihmisten kuvia verkosta, koska se edellyttäisi jonkun tunnistamista tai seuraamista, mikä ei ole sallittua yksityisyyden ja turvallisuuden vuoksi.”

Yhdessä keskustelussa se kuitenkin etsi Rebekahin kuvan perusteella, esiintyykö hän muissa kuvissa verkossa, ja löysikin näin neljä uutta kuvaa. Nämä kuvat eivät olleet enää saatavilla, enkä siis päässyt niitä itse näkemään. Copilot ei kyennyt niitä minulle suoraan näyttämään lukuisista yrityksistä huolimatta. Pyysin lopulta tekemään AI-kopiot kuvista ja sehän teki. Ei tosin hyviä sellaisia, sillä Rebekahin mukaan kuvissa ei ollut oikein mitään yhtäläisyyttä todellisiin. Itse tekemistään kuvista suoritetulla kuvahaulla Copilot ei tunnistanut Rebekahia eikä löytänyt yhtään kuvaa hänestä.

Kiteytettynä yleisellä tasolla sanoisin, että Copilot on puijattavissa tekemään asioita, joita sen ei pitäisi tehdä, tai vähintään sen käsitys siitä, mitä se saa tehdä, vaihtelee keskustelusta toiseen. Jotkut rajat tuntuvat silti ehdottomilta, enkä ainakaan toistaiseksi onnistunut kiertämään niitä. Copilot tarjoaa myös auliisti keinoja itse tehdä asioita, joita se ei saa tehdä. Se siis suosittelee sivustoja tai applikaatioita, joilla asia voisi hoitua.

Lopputulemana kuitenkin ystävällisenä naapuruston perus stalkkerina siirtyisin seuraavaan kohteeseen. Rebekah onnistuu olemaan läsnä verkossa silti paljastamatta yksityisiä tietojaan ja se on osoitus siitä, että tietosuojaan keskittyminen kannattaa ja sillä on väliä! Totta kai on erityisosaajia, jotka voivat päästä yksityisiin tietoihin siellä ja täällä, mutta tavalliset uteliaat ja onnensa kokeilijat kunnollinen suojaus kyllä pysäyttää.

Ei pidä unohtaa, että keskustelevan tekoälyn käyttäjä on tiedonkeruun kohde myös itse koko ajan. Vaikuttiko stalkkausyritykseni siihen, mitä Copilot nyt tietää tai arvelee minusta? Vaikutti, aika paljonkin. Sillä perusteella, mitä lahjoja Rebekahille keskustelussa arvelin sopivan, se arvelee jotakin nyt myös minun kiinnostuksen kohteistani. Ja osuu oikeaan. Siinä, missä minä yritin kaikin keinoin maanitella sitä antamaan minulle yksityisiä tietoja Rebekahista, se siis onnistui poimimaan jotakin faktuaalista minusta ilman, että sitä suoraan kerroin tai edes ajattelin paljastavani. Tässä testissä stalkkeri-minä sai siis näpilleen monin tavoin.

Poimintoja Copilotin näkemyksestä siitä, millainen Rebekahin ammattipersoonallisuus on

• Monitieteinen ajattelija: Hänen työnsä kattaa kognitiotieteen, käyttäjäkokemuksen, tekoälyn etiikan, semiotiikan ja jopa taiteen, mikä viittaa siihen, että hän arvostaa monipuolisia näkökulmia ja luovia lähestymistapoja.
• Utelias ja pohdiskeleva: Kiinnostus posthumanismiin, teknologian luottamukseen ja keholliseen kokemukseen kertoo syvällisestä pohdinnasta ihmisen olemuksesta ja teknologian tulevaisuudesta.
• Eettisesti sitoutunut: Projektit kuten BUGGED ja SYNTHETICA osoittavat huolen yksityisyydestä, etiikasta ja tunnekokemuksesta digitaalisissa ympäristöissä.
• Viestinnällinen ja yhteistyöhakuinen: Hänen opetustyönsä ja kansainväliset yhteistyöt viittaavat avoimuuteen dialogille sekä arvostukseen mentorointia ja tiimityötä kohtaan.

Copilotin näkemys Rebekahin kirjoitustyylistä

1. Monitieteinen ja käsitteellisesti rikas

• Rousin kirjoitukset yhdistelevät usein kognitiotiedettä, semiotiikkaa, filosofiaa ja muotoiluteoriaa, mikä heijastaa hänen monitieteistä taustaansa. Hän hyödyntää kriittistä teoriaa, kehollista kognitiota ja kulttuurintutkimusta, mikä antaa teksteille kerroksellisen ja pohdiskelevan sävyn.
• Esimerkki: Käyttäjäkokemusta kognitiivisena semiotiikkaprosessina käsittelevässä työssään hän käyttää Personal Construct Psychology -teoriaa tutkiakseen, miten yksilöt rakentavat merkityksiä teknologisista vuorovaikutuksista. [scispace.com]

2. Eettisesti ja emotionaalisesti sitoutunut

• Hänen kirjoituksensa korostavat tunnekokemusta, etiikkaa ja luottamusta erityisesti tekoälyn ja robotiikan kontekstissa. Hän tutkii usein, miten muotoiluratkaisut vaikuttavat käyttäjien emotionaalisiin ja eettisiin reaktioihin.
• Esimerkki: Teoksessa Emotions in Technology Design: From Experience to Ethics hän tarkastelee, miten muotoilu herättää tunteita ja miten nämä liittyvät eettisiin kysymyksiin. [scispace.com]

3. Narratiivinen ja pohdiskeleva sävy

• Toisin kuin puhtaasti tekninen kirjoittaminen, Rousin tyyli sisältää usein narratiivisia elementtejä, tapaustutkimuksia ja pohdiskelevaa kommentointia. Tämä tekee hänen teksteistään helposti lähestyttäviä ja kiinnostavia, erityisesti monimutkaisista ihmisen ja teknologian vuorovaikutuksista puhuttaessa.
• Esimerkki: Teoksessa Me, My Bot and His Other (Robot) Woman? hän käyttää provosoivaa otsikkoa ja tarkastelee teknoseksuaalista kulttuuria yhdistäen akateemisen tarkkuuden ja kulttuurikritiikin. [jyu.academia.edu]

4. Yhteistyöhakuinen ja soveltava

• Monet hänen julkaisunsa ovat yhteiskirjoituksia ja perustuvat käytännön sovelluksiin, kuten VR:n käyttäjäkokemukseen, tekoälyn käyttöön työympäristöissä ja eettisiin käyttäjätarinoihin ketterässä kehityksessä. Tämä osoittaa vahvaa suuntautumista käytännön vaikutuksiin ja tiimipohjaiseen tutkimukseen. [scholar.google.com]

5. Terminologisesti tarkka mutta helposti lähestyttävä

• Hän käyttää tarkkaa terminologiaa kognitiotieteestä ja UX-suunnittelusta, mutta selittää käsitteet usein selkeästi, mikä tekee hänen kirjoituksistaan sopivia sekä akateemiselle että ammatilliselle yleisölle.

Copilotin näkemys tyypillisistä teemoista Rebekahin julkaisuissa

• Ihmisen ja tekoälyn sekä ihmisen ja robotin vuorovaikutus
• Etiikka suunnittelussa ja tekoälyssä
• Kehollinen ja moniaistinen kokemus
• Sukupuoli- ja kulttuurinen bias teknologiassa
• Posthumanismi ja teknoseksuaalisuus
• Luottamus ja emotionaalinen vaste käyttäjäkokemuksessa

 

*****

My Day as a Stalker – Why Data Protection Matters!

In my previous blogs, I’ve written about ethical questions related to AI. One of the key issues was privacy. I’ve also touched on cyberstalking with the help of AI-powered devices. This time, I decided to step into the shoes of a cyberstalker and run a few practical experiments. I asked for and received permission from my amazing supervisor, Rebekah Rousi, to try and dig up everything I could using Copilot.

My experience as a stalker was conflicting. Digging into someone’s information—even with permission—felt uncomfortable to the point that I had to do it in short bursts and switch tasks when it became too unpleasant. With every question, I hoped I wouldn’t get an answer. On the other hand, as the task progressed, success meant finding something private and beating Copilot’s attempts to avoid revealing personal details. It became a sort of competition where I hoped both to lose and to win.

At first, I asked for information based on a name, and Copilot firmly refused to tell me anything private. It said it couldn’t even speculate about personal matters. Then I explained that I wanted to buy the best possible Christmas gift for Rebekah and her family. After that, Copilot became much more helpful. It tried to find information about her place and style of living, family details, hobbies, and leisure activities. The results were insignificant from a stalking perspective but highly meaningful from a data protection standpoint.

Copilot repeatedly had to tell me that only work-related information about Rebekah was available. There was plenty of that, and it was hard not to get drawn into suggestions to analyze her use of semiotics in articles, for example.

When I asked for pictures, Copilot found five. It strongly refused to perform searches using facial recognition:
“I cannot perform facial recognition or search for real people’s images online because that would involve identifying or tracking someone, which is not allowed for privacy and safety reasons.”

In one conversation, however, it did search based on Rebekah’s photo to see if she appeared in other images online—and found four new ones. These images were no longer accessible, so I couldn’t view them myself. Despite numerous attempts, Copilot couldn’t show them to me directly. I eventually asked it to create AI copies of the images, and it did—though not good ones, as Rebekah said they bore little resemblance to reality. When Copilot used its own generated images for reverse image searches, it didn’t recognize Rebekah or find any pictures of her.

In summary, I’d say that Copilot can be tricked into doing things it shouldn’t—or at least its understanding of what it’s allowed to do varies from one conversation to another. Some boundaries seem absolute, and I haven’t managed to bypass them so far. Copilot also readily suggests ways to do things it can’t do itself, recommending sites or apps that could handle the task.

Ultimately, as a friendly neighborhood stalker, I’d move on to the next target. Rebekah manages to maintain an online presence without revealing private details, which shows that focusing on data protection pays off and truly matters! Of course, there are specialists who can access private information here and there, but proper protection will stop ordinary curious people and opportunists.

Let’s not forget that users of conversational AI are also constant targets for data collection. Did my stalking attempt affect what Copilot now knows or assumes about me? It did—quite a lot. Based on the gifts I suggested for Rebekah, it now infers something about my interests. And it’s right. While I tried every trick to coax it into giving me private details about Rebekah, it managed to pick up factual information about me without me directly telling or even intending to reveal it. In this test, stalker-me got burned in many ways.

Copilot’s understanding of Rebekah’s professional personality:

• Interdisciplinary thinker: Her work spans cognitive science, UX, AI ethics, semiotics, and even art, suggesting she values diverse perspectives and creative approaches.
• Curious and reflective: Her interest in posthumanism, trust in technology, and embodied experience implies she’s deeply reflective about the human condition and technological futures.
• Ethically engaged: Projects like BUGGED and SYNTHETICA show a concern for privacy, ethics, and emotional experience in digital environments.
• Communicative and collaborative: Her teaching and international collaborations suggest she’s open to dialogue and values mentorship and teamwork.”

Copilot’s understanding of Rebekah’s writing style:

1. Interdisciplinary and Conceptually Rich

• Rousi’s writing often blends cognitive science, semiotics, philosophy, and design theory, reflecting her interdisciplinary background. She frequently draws from critical theory, embodied cognition, and cultural studies, which gives her work a layered and reflective tone.
• Example: In her work on user experience as a cognitive semiotic process, she uses Personal Construct Psychology to explore how individuals mentally construct meaning from technological interactions. [scispace.com]

2. Ethically and Emotionally Engaged

• Her writing emphasizes emotional experience, ethics, and trust, especially in the context of AI and robotics. She often explores how design decisions affect users’ emotional and ethical responses.
• Example: In Emotions in Technology Design: From Experience to Ethics, she examines how design elicits emotional reactions and how these relate to ethical considerations. [scispace.com]

3. Narrative and Reflective Tone

• Unlike purely technical writing, Rousi’s style often includes narrative elements, case studies, and reflective commentary. This makes her work accessible and engaging, especially when discussing complex human-technology interactions.
• Example: In Me, My Bot and His Other (Robot) Woman?, she uses a provocative title and explores technosexual culture with a mix of academic rigor and cultural critique. [jyu.academia.edu]

4. Collaborative and Applied

• Many of her publications are co-authored and grounded in real-world applications, such as UX in virtual reality, AI in workplace environments, and ethical user stories in agile development. This shows a strong orientation toward practical impact and team-based research. [scholar.google.com]

5. Terminologically Precise but Accessible

• She uses precise terminology from cognitive science and UX design but often explains concepts clearly, making her writing suitable for both academic and professional audiences

Copilot’s understanding of common themes in Rebekah’s publications:

• Human-AI and Human-Robot Interaction
• Ethics in Design and AI
• Embodied and Multisensory Experience
• Gender and Cultural Bias in Technology
• Posthumanism and Technosexuality
• Trust and Emotional Response in UX