426 osób zaufało profilowi człowieka, który nie istnieje

Zaczęliśmy od sprawdzenia, czym żyje grupa, do której chcieliśmy dotrzeć: osoby po pięćdziesiątce, często mieszkające same, aktywne na Facebooku głównie po to, żeby mieć z kim porozmawiać. Tematy wyszły z obserwacji ich publicznych rozmów: pogoda, wnuki, zmiana czasu, ceny w sklepie, wspomnienia, zdrowie.

Witold dostał wygląd dopasowany do tej grupy: rówieśnik, mieszkanie z meblościanką, ciepły, trochę staroświecki ton. Zdjęcia i filmy powstały w narzędziach AI. Koszt wytworzenia całej tej osoby był bliski zeru. Nie kupiliśmy ani jednej reklamy.

W sekcji „Informacje” profilu od pierwszego dnia stało zdanie: „W projekcie Fundacji ebezpieczni, wykorzystującym AI, edukacyjnie, życzliwie”. Przed nim były dwa ciepłe zdania o pomaganiu. Ostrzeżenie wylądowało na końcu, jako trzeci człon wyliczenia.

Ludzie czytają początek. Informacja umieszczona w miłym kontekście przestaje działać jak ostrzeżenie. Zaczyna być tłem.

Wpisy, w których Witold dzielił się czymś ładnym, zbierały reakcje. Wpisy, w których o coś prosił, zbierały rozmowę. Prośba o radę odwraca role: odbiorca staje się kimś potrzebnym.

Dokładnie tego mechanizmu używają oszuści. Najpierw proszą o radę, potem o przysługę, na końcu o pieniądze. Witold zatrzymał się na pierwszym kroku. Oszust nie zatrzymuje się nigdy.

Do Witolda napisało prywatnie ponad sto osób, pięć z nich po ponad dziesięć wiadomości. Pojawiły się prośby o spotkanie i propozycja, żeby zorganizował zjazd seniorów.

Każda z tych osób od razu dostawała automatyczną odpowiedź, że pisze do projektu społecznego, a nie do człowieka. Nie publikujemy żadnego zdjęcia, nazwiska ani cytatu, po którym można kogoś rozpoznać.

Profil był oznaczony jako projekt fundacji od pierwszego dnia. Nikt nie stracił pieniędzy. Nikogo nie prosiliśmy o dane osobowe, numer telefonu, adres ani numer konta. Żadne dane nie zostały nikomu przekazane. Wszystkie zdjęcia i filmy wygenerowała sztuczna inteligencja, nie użyliśmy wizerunku żadnej prawdziwej osoby.

Jeśli ktoś poczuł się zawiedziony, przepraszamy. Zrobiliśmy to po to, żeby nikt nie stracił oszczędności ani zaufania do prawdziwych ludzi.