Technologie tworzenia deadbotów – potencjalne zagrożenia i etyczne dylematy

24 czerwca, 202424 czerwca, 2024 Artur Sowa #CyfrowaReplika, #Deadboty, #Edukacja, #EtykaAI, #Griefbots, #InteraktywneTechnologie, #KwestiePrawne, #LeverhulmeCentre, #Nauka, #NewDimensionsInTestimony, #NowoczesnaŻałoba, #NowoczesneTechnologie, #OchronaDzieci, #PostmortemAvatars, #ProcesŻałoby, #PrzyszłośćAI, #ReCreationServices, #SztucznaInteligencja, #Technologia, #UniwersytetwCambridge, #ZagrożeniaTechnologii

Technologie umożliwiające stworzenie cyfrowej repliki zmarłego człowieka, tzw. deadboty, mogą być bardzo niebezpieczne, ostrzegają naukowcy z Uniwersytetu w Cambridge. Badacze przeanalizowali trzy scenariusze rozwoju usług związanych z tworzeniem deadbotów i we wszystkich dostrzegli poważne zagrożenia, zarówno w kontekście manipulacji handlowej, jak i wpływu na przeżywanie żałoby oraz dobrostan psychiczny. Naukowcy sugerują wprowadzenie regulacji już na etapie tworzenia takich usług, aby chronić najbardziej podatne grupy społeczne, w tym dzieci.

Deadboty to specjalne programy komputerowe, które na podstawie danych o zmarłym tworzą jego cyfrową reprezentację, umożliwiającą komunikację w języku naturalnym. Mimo że nie ma mowy o przenoszeniu świadomości, systemy te symulują charakterystyczne zachowania i sposoby wypowiadania się danej osoby.

Alternatywne terminy dla tych technologii to griefbots czy postmortem avatars, a ogólnie określa się je jako re-creation services. Zyskują one popularność wraz z rozwojem modeli językowych takich jak ChatGPT i mogą być stosowane zarówno do ludzi, jak i zwierząt.

Naukowcy z Leverhulme Centre for the Future of Intelligence w Cambridge zarysowali trzy możliwe scenariusze rozwoju takich technologii, wskazując na różne zagrożenia. W pierwszym scenariuszu, nazwanym MaNana (Moja Babcia), technologia mogłaby być wykorzystywana do manipulacji handlowej. Drugi scenariusz dotyczy rodziny z małym dzieckiem, gdzie zmarła matka jest cyfrowo „wskrzeszona” dla dziecka, co budzi obawy o wpływ na proces żałoby. Trzeci scenariusz opisuje przypadek osoby, która zakupuje subskrypcję deadbota na 20 lat, co prowadzi do wyczerpania emocjonalnego u bliskich.

Naukowcy postulują wprowadzenie ochrony dla grup szczególnie podatnych na negatywne skutki tych technologii, zwłaszcza dzieci. Zalecają również, aby dostęp do takich technologii był ograniczony wiekowo i aby użytkownicy byli świadomi, że mają do czynienia jedynie z cyfrową reprezentacją zmarłego.

Mimo potencjalnych zagrożeń, technologie te mogą mieć również pozytywne zastosowania, np. w edukacji czy w międzypokoleniowej wymianie historii. Projekt New Dimensions in Testimony to przykład, gdzie ocalali z Holokaustu opowiadają o swoich przeżyciach w interaktywnej formie. Naukowcy podkreślają jednak konieczność ostrzejszych regulacji dla tych technologii.

W ramach dalszych badań zespół będzie analizować międzykulturowe postrzeganie technologii symulowania zmarłych. Nowy projekt „Imaginaries of Immortality in the Age of AI” ma na celu znalezienie nowych sposobów na kształtowanie pośmiertnej obecności i zarządzanie danymi po śmierci.

Źródło:newserie.pl