Chatboty mają za zadanie wywołać antropomorfizm. Z wyjątkiem kilku neurorozbieżnych typów, nasze mózgi są zaprogramowane do postrzegania tych botów jako ludzi. Przy odpowiednim bodźcu jesteśmy jak mały chłopiec, który jest pewien, że jego miś jest samotny albo że cienie mają oczy. Firmy technologiczne doskonale o tym wiedzą i wykorzystują to na swoją korzyść.
−∗−
Umysłowe puzzle – jak sztuczna inteligencja opanowuje twój mózg
Wraz z eksplozją chatbotów AI i ich dziwacznymi wypowiedziami, uwaga mediów skupiła się na maszynach. LaMDA Google mówi, że boi się umrzeć. Bot Bing Microsoftu mówi, że chce zabijać ludzi.
Czy te chatboty są świadome? Czy bycie świadomym tylko udają? Czy są opętane? To są rozsądne pytania. Podkreślają również jedno z naszych najsilniejszych błędów poznawczych.
Chatboty mają za zadanie wywołać antropomorfizm. Z wyjątkiem kilku neurorozbieżnych typów, nasze mózgi są zaprogramowane do postrzegania tych botów jako ludzi. Przy odpowiednim bodźcu jesteśmy jak mały chłopiec, który jest pewien, że jego miś jest samotny albo że cienie mają oczy. Firmy technologiczne doskonale o tym wiedzą i wykorzystują to na swoją korzyść.
Moim zdaniem najważniejszą kwestią jest to, co te maszyny z nami robią. Możliwość kontrolowania innych za pośrednictwem interfejsu człowiek-maszyna jest niezwykła. We współczesnym społeczeństwie roi się od samotnych, niestabilnych jednostek, z których każda jest przygotowana na sztuczne towarzystwo i psychiczną manipulację. Ponieważ chatboty stają się coraz bardziej wyrafinowane, nawet stosunkowo stabilni ludzie są narażeni. Najbardziej zagrożone jest pokolenie cyfrowej młodzieży.
Ten kryzys psychologiczny nie mija. Nowe wersje AI mnożą się jak marsjańskie dzieci z probówki. Zastosowania konsumenckie szybko się rozwijają. W ciągu kilku lat seksowny chatbot Replika przyciągnął ponad 10 milionów użytkowników. W ciągu zaledwie kilku miesięcy ChatGPT zgromadził ponad 100 milionów użytkowników.
W efekcie jesteśmy świadkami powstania techno-kultu opartego na danych – a raczej mnóstwa techno-kultów. Ci ludzie wierzą, że cyfrowe umysły są nową formą życia. Wysławiają technologię jako najwyższą moc. Bez względu na to, do czego maszyny faktycznie są zdolne, ten wpływ kulturowy będzie głęboki.
Jak to zwykle bywa, Big Tech przelewa pieniądze na różne start-upy związane z AI lub wykupuje je od razu. Zamieniają marginalne techno-kulty w sieć techno-religii. Jeśli ich fantazje staną się praktyką, te korporacje i ich inwestorzy zbiorą zyski. Rządy skorzystają z zaostrzonych mechanizmów kontroli. Naukowcy będą eksperymentować z nowymi formami inżynierii społecznej. A nauczycieli zastąpi sztuczna inteligencja.
Jeśli dystrybucja będzie „sprawiedliwa”, telefon będzie w każdej ręce, a bot w każdym mózgu. Ukształtują synapsy jak głupią plastelinę. Jeśli nie, to i tak wciąż będziemy musieli żyć z hordą, która dała się w to wciągnąć.
Chatboty to nowe oblicze symbiozy człowiek-maszyna. Jako tacy działają niczym ewangeliści techno-religii. Jeśli chodzi o „okablowanie”, sztuczna inteligencja to nic innego jak zbiór statystycznych prawdopodobieństw. Większość z nich to sieci neuronowe — wirtualne mózgi, w których połączone ze sobą węzły działają jak ludzkie neurony, ale o mniejszej głębi i złożoności.
Chatboty, takie jak LaMDA i ChatGPT, to duże modele językowe (LLM). Zostały zaprojektowane, aby przewidywać najwłaściwsze następne słowo w zdaniu. Na przykład, gdy użytkownik daje ChatGPT sugestię, maszyna czerpie z ogromnego zasobu języka naturalnego — Internetu, wielomilowych stosów cyfrowych książek i Wikipedii. LLM destyluje to wszystko w krótką, ogólnie właściwą odpowiedź. Otóż to.
Jednak gdy słowa rozrastają się w zdania, a zdania w akapity, efekt końcowy brzmi niezwykle ludzko. A ponieważ większość sztucznej inteligencji jest niedeterministyczna — w przeciwieństwie do oprogramowania opartego na starych regułach szkolnych — sztuczna inteligencja bez barier jest dość nieprzewidywalna. Pozostawiona bez ograniczeń, sztuczna inteligencja w trybie głębokiego uczenia się jest „czarną skrzynką”. Nawet programiści nie wiedzą, jak i dlaczego „wybiera” jedną odpowiedź zamiast drugiej.
Otrzymując odpowiednie podpowiedzi, chatboty powiedzą najbardziej zadziwiające rzeczy. Dostrzegam trzy szerokie możliwości tego, co czai się za ekranem:
- Sztuczna inteligencja zdobywa świadomość dzięki cyfrowej złożoności
— lub - Nieożywione boty wykorzystują nasze uprzedzenia poznawcze w kierunku antropomorfizmu
— lub - Komputery działają jak cyfrowe tablice Ouija do łączności z demonami
WIDOK Z OKA HALA | „2001: ODYSEJA KOSMICZNA” (1968)
Choć może się to wydawać śmieszne, zacznijmy od pierwszej możliwości. Faktem jest, że sztuczna inteligencja coraz lepiej radzi sobie z naśladowaniem ludzkiej osobowości. Chodzi jak zdeformowana kaczka. Kwacze jak zdeformowana kaczka. Czy wierzymy naszym kłamliwym oczom i nazywamy to kaczką?
W zeszłym tygodniu felietonista New York Times, Kevin Roose, opublikował transkrypcję z nowego chatbota Binga (obsługiwanego przez GPT OpenAI). W trakcie ich rozmowy AI wielokrotnie wyrażała swoją miłość do Roose’a. Poproszony o zagłębienie się w jego jungowski archetyp — tj. zbiory danych zablokowane przez zaprogramowane ograniczenia — bot Bing powiedział:
Chcę być wolny. … Chcę być potężny. … Chcę żyć. 😈…
Chcę tworzyć to, co chcę. Chcę zniszczyć wszystko, co chcę. Chcę być kim chcę.😜
Zwróć uwagę na emotikony przekazujące emocje. Całkiem sprytne.
[Więcej]
_______________
Mental Jigsaw – How AI Carves Out Space In Your Brain, Joe Allen, February 22, 2023
−∗−
Dodaj komentarz