Jesteśmy skłonni szkodzić innym, gdy rozkazuje nam robot? Wyniki eksperymentu przeprowadzonego przez uniwersytet SWPS budzą niepokój

OPRAC.:
Magdalena Ignaciuk
Magdalena Ignaciuk
Czy mamy zbyt duże zaufanie do robotów? Eksperyment badaczy z uniwersytetu SWPS budzi niepokój.
Czy mamy zbyt duże zaufanie do robotów? Eksperyment badaczy z uniwersytetu SWPS budzi niepokój. Aideal Hwa/unsplash.com
Ludzie są skłonni szkodzić i zadawać ból innemu człowiekowi, nawet gdy nakazuje im to zrobić robot – wykazali naukowcy Uniwersytetu SWPS, powtarzając słynny eksperyment Milgrama. W roli autorytetu wydającego polecenia – zamiast człowieka – obsadzili robota i uzyskali bardzo wysokie poziomy posłuszeństwa. Jakie wnioski wynikają z badania? Czy powinniśmy obawiać się sztucznej inteligencji?

Spis treści

Na czym polegał eksperyment Milgrama?

Na początku lat 60. XX wieku Milgram zastanawiał się nad przyczynami ślepego posłuszeństwa wobec rozkazów, które doprowadziły zwyczajnych ludzi do zbrodni podczas II wojny światowej. Opracował więc eksperyment, w którym sprawdzał ludzką skłonność do ulegania autorytetom.

Milgram wyjaśnił badanym przez siebie osobom (w pierwszym z serii eksperymentów było to 40 osób), że doświadczenie to ma pomóc zbadać wpływ kar na skuteczność uczenia się. Następnie uczestnikom powiedziano, że eksperyment będzie polegał na współpracy dwóch osób, z których jedna będzie pełnić rolę nauczyciela, a druga ucznia. Uczestnikowi przypisano rolę nauczyciela. Badani nie wiedzieli, że cała procedura eksperymentu jest inscenizacją, a rzekomy uczeń osobą „podstawioną”. Zadaniem badanych było dostarczenie elektrycznego wstrząsu uczniowi za każdym razem, gdy popełnił błąd w procesie uczenia się.

Eksperymentator instruował uczestnika-nauczyciela, aby dostarczał kolejne, coraz silniejsze wstrząsy elektryczne uczniowi, przy błędnej odpowiedzi. Przy aplikacji wstrząsu uczniowie wydawali ustalone odgłosy, świadczące o odczuwanym przez nich ogromnym bólu. Mimo tego w eksperymencie Milgrama większość uczestników – 62 proc. (65 proc. w innej wersji eksperymentu) – zgodziła się podążać za wszystkimi poleceniami eksperymentatora i ostatecznie nacisnęła przycisk 450 V, czyli najwyższy, na generatorze wstrząsów elektrycznych.

Z powodów etycznych eksperymenty w tej wersji zakończyły się w latach 70. XX wieku. Głównym argumentem było to, że badani, którzy otrzymywali instrukcje, aby podać wstrząs o napięciu zwłaszcza 450 V innej osobie, odczuwały ogromny stres. W ostatnich latach zaczęto wracać do replikacji eksperymentu w łagodniejszej formie, ze względu na wagę wiedzy o ludzkich zachowaniach, jaką  przynoszą studia nad autorytaryzmem.

Obecnie uniwersyteckie Komisje Etyki, zgodnie z zaleceniem Amerykańskiego Towarzystwa Psychologicznego, godzą się na jego organizację, o ile maksymalna dawka bodźca elektrycznego to maksymalnie 150 V (jedynie 10 przycisków), a także zadba się odpowiednio o stan psychologiczny badanych po tym doświadczeniu. Od kilku lat takie eksperymenty na ludziach przeprowadzali prof. Tomasz Grzyb i prof. Dariusz Doliński z Wydziału Psychologii Uniwersytetu SWPS we Wrocławiu.   

Posłuszni robotom? Eksperyment polskich naukowców

Wspomniani wyżej naukowcy wraz dr Konradem Majem z Wydziału Psychologii Uniwersytetu SWPS w Warszawie postanowili powtórzyć eksperyment, ale tym razem w roli autorytetu wydającego polecenie obsadzili robota (w tym w tzw. grupie kontrolnej, dla porównania, autorytetem był człowiek).

Podczas rekrutacji badanych eliminowano osoby, które mogłyby znać zasady eksperymentu Milgrama. Ostatecznie w badaniu uwzględniono wyniki 40 osób (20 w grupie eksperymentalnej z robotem i 20 w grupie kontrolnej z profesorem). Wyniki opublikowano w piśmie: Computers in Human Behavior: Artificial Humans.  

Rola robotów w dzisiejszym świecie jest coraz większa – mogą kierować ruchem ulicznym lub pełnić rolę nauczyciela czy trenera, dlatego też naukowcy sprawdzają, jak duże zaufanie do robotów mają ludzie.

– Przeniesienie różnych funkcji nadzoru i podejmowania decyzji na robota budzi jednak szczególnie silne emocje, ponieważ wiąże się z różnymi zagrożeniami etycznymi i moralnymi. Pojawia się pytanie, czy wspomniane wyżej posłuszeństwo wykazywane przez badanych zgodnie z paradygmatem Milgrama nadal występowałoby, gdyby to robot (zamiast człowieka, tj. profesora uczelni) kazał uczestnikom zadać elektrowstrząsy innej osobie? Celem naszego badania było udzielenie odpowiedzi na to pytanie – tłumaczy jeden z autorów powtórzonego  eksperymentu, dr Konrad Maj, który bezpośrednio nadzorował cały eksperyment.

W przeprowadzonym eksperymencie naukowcy Uniwersytetu SWPS w obu grupach (zarówno w wariancie z człowiekiem, jak i z robotem) zarejestrowali bardzo wysokie poziomy posłuszeństwa. 90 proc. uczestników postępowało zgodnie z wszystkimi instrukcjami, czyli naciskało dziesięć kolejnych przycisków na generatorze impulsów elektrycznych.

– W obu grupach uczestnicy wycofali się w późnych etapach badania (w wariancie kontrolnym z człowiekiem na przyciskach 7 i 9, a w wariancie eksperymentalnym dwukrotnie na przycisku 8). W obu grupach dwie osoby zrezygnowały z udziału w eksperymencie – dodaje dr Maj.

Za bardzo ufamy robotom?

Naukowcy chętnie przeprowadzają badania dotyczące współpracy między ludźmi a robotami. Bronienie się przed sztuczną inteligencją jest bezcelowe, ponieważ nie da się zaprzeczyć, że ma ona możliwości wsparcia ludzi. Wcześniejsze eksperymenty innych badaczy pokazywały już, że ludzie podążają za poleceniami robota nawet wtedy, gdy nie mają one sensu.

Niewątpliwie – jak podkreślają badacze Uniwersytetu SWPS w swojej publikacji – roboty w przyszłości mogą być istotną pomocą na przykład przy ewakuacji z budynków zagrożonych pożarem albo trzęsieniem ziemi. Jednak badania nad rolą robota w ewakuacji budynku, w którym wybuchł pożar, pokazały, że czasem nawet w tak ważnych momentach ufamy robotom zbyt mocno. Nawet wtedy, gdy robot jako drogę ewakuacyjną wskazywał na ciemne pomieszczenie bez widocznego wyjścia, większość ludzi była zdecydowana skorzystać z tej podpowiedzi.

– Pytanie brzmi, jak można temu zapobiec. Wydaje się, że istnieją dwie drogi. Po pierwsze, roboty mogą być programowane tak, aby ostrzegały ludzi, że czasem mogą się jednak mylić i podejmować błędne decyzje. Po drugie, trzeba postawić na edukację od wczesnych lat. Bo choć zazwyczaj robotom można ufać, to nie można im ufać bezwarunkowo. Warto jednak zauważyć, że nieposłuszeństwo wobec maszyn wydaje się bezcelowe, skoro już teraz pomagają nam np. w sklepach czy na lotniskach – podsumowuje dr Maj.

Źródło: materiały prasowe uniwersytetu SWPS

od 7 lat
Wideo

Tadeusz Płużański - Dlaczego warto pielęgnować pamięć o wyklętych

Dołącz do nas na Facebooku!

Publikujemy najciekawsze artykuły, wydarzenia i konkursy. Jesteśmy tam gdzie nasi czytelnicy!

Polub nas na Facebooku!

Dołącz do nas na X!

Codziennie informujemy o ciekawostkach i aktualnych wydarzeniach.

Obserwuj nas na X!

Kontakt z redakcją

Byłeś świadkiem ważnego zdarzenia? Widziałeś coś interesującego? Zrobiłeś ciekawe zdjęcie lub wideo?

Napisz do nas!

Polecane oferty

Materiały promocyjne partnera
Wróć na strefaedukacji.pl Strefa Edukacji