Naiwne hipostazowanie sztucznej inteligencji

Opublikowano 15 maja 2025, autor: Witold Marciszewski

Uwagi te nasunęły mi się w trakcie uczestnictwa w seminarium na Politechnice Warszawskiej na temat mowy nienawiści, jak jest rozumiany ten termin w definicjach prawniczych oraz etycznych (zob. nagranie w serwisie YouTube). Abstrahując od treści odczytów, która w żadnym punkcie nie budziła moich zastrzeżeń, a raczej uznanie dla kompetencji mówców, chcę zwrócić uwagę na pewien fenomen językowy, który się przejawił w odczytach i w dyskusji. Jest to zjawisko tak powszechne, że daje powód do komentarza z tego punktu widzenia, który określam jako światopogląd informatyczny. Jak w każdym światopoglądzie, i każdym innym produkcie intelektualnym, mogą się pojawiać błędy myślowe.

Można zauważyć, że istnieje taka wersja światopoglądu informatycznego, w której dokonuje się pewne naiwne hipostazowanie sztucznej inteligencji. Jest to mówienie o niej, jak gdyby był to jakiś podmiot (w grece — hypostasis) zdolny do samodzielnego rozwiązywania problemów i podejmowania decyzji.

Polega to na przypisywaniu sztucznej inteligencji zdolności do postrzegania i eliminowania mowy nienawiści w mediach społecznościowych. Tematem obu referatów były kryteria służące do rozpoznawania mowy nienawiści: w jednym kryteria prawne, w drugim — etyczne.  Toteż SI jako samodzielny podmiot dozorowania mediów musiałaby dysponować systemem takich kryteriów i na tej podstawie podejmować eliminujące czy korygujące decyzje.

Oczywiście, nikt z uczestników dyskusji nie żywił takiego przekonania. Należy ono raczej do potocznego slangu, jakiejś — by tak rzec — ludowej (folk) filozofii informatyki.  Chodziłoby jednak o takie kształtowanie języka przez ekspertów, żeby owego naiwnego pojmowania nie umacniać przez fakt, że dla jakiegoś uproszczenia dyskursu tak się wyrażamy, jakbyśmy ów „ludowy” dialekt podzielali.

Zaszufladkowano do kategorii Bez kategorii | 19 komentarzy

Narzędzie czy byt autonomiczny? Przedmiot czy podmiot?
Jak powinniśmy traktować sztuczną inteligencję?

Opublikowano 18 kwietnia 2025, autor: Paweł Stacewicz

Obecny wpis publikuję w imieniu Pana Olafa Wernera, doktoranta na Wydziale Matematyki i Nauk Informacyjnych Politechniki Warszawskiej i członka Koła Naukowego „Politechniczne Forum Debaty LOGOS”.
Wpis stanowi element współpracy Koła z projektem NCN [iTrust]. Interventions against polarisation in society for TRUSTworthy social media: From diagnosis to therapy,  który jest obecnie realizowany na Politechnice Warszawskiej.

Po tych formalnych wstępach przechodzę do meritum 😊 i oddaję głos Panu Olafowi
(zapraszając oczywiście do dyskusji)…

*********** NARZĘDZIE CZY BYT AUTONOMICZNY? PRZEDMIOT CZY PODMIOT? ***********

Naszą refleksję chciałbym zogniskować wokół pytania, które może wydawać się czysto filozoficzne, a jednak ma kluczowe znaczenie praktyczne – zarówno etyczne, jak i społeczne. Czy sztuczną inteligencję powinniśmy traktować jak narzędzie, którym się posługujemy, czy byt autonomiczny, który sam w sobie zasługuje na podmiotowość? A mówiąc bardziej praktycznie: czy już teraz nie zaczynamy jej traktować w drugi sposób?
Te pytania mogą brzmieć jak dygresja z powieści science fiction – a jednak tkwią w samym sercu współczesnych debat o regulacjach, odpowiedzialności, bezpieczeństwie i zaufaniu wobec technologii.

Podmiot versus narzędzie – różnica fundamentalna

Użyte w tytule wpisu słowa podmiot i byt autonomiczny niosą ze sobą pewne konotacje. Przywodzą na myśl istotę (można powiedzieć także: stworzenie), która ma intencje, cele, może cierpieć, może być oceniana moralnie. Z kolei narzędzie to przedmiot – pozbawiony woli, działający zgodnie z określonymi z góry regułami, użyteczny tylko wtedy, gdy ktoś go używa.

Zarysowane wyżej rozróżnienie można sprowadzić do kilku przeciwstawnych cech:

Cecha Narzędzie Podmiot
Autonomia Brak – działa na polecenie i w sposób automatyczny. Może wykazywać własną inicjatywę.
Intencjonalność Brak – nie ma własnych celów. Ma motywację i własne cele.
Ewolucyjność (rozwój) Rozwija się w sposób określony przez projektanta lub użytkownika. Rozwija się (zmienia)  w sposób samodzielny.
Relacja z otoczeniem Użytkownik-przedmiot. Podmiot-podmiot (nawet: rywalizacja).
Odpowiedzialność Nie ponosi konsekwencji za „własne” działania. Ponosi konsekwencje, może być oceniany i rozliczany (również moralnie).

Testy i pytania graniczne

Jak jednak sprawdzić, do której kategorii coś należy?
Czy istnieje test na podmiotowość?

Oczywiście najczęściej mówi się o teście Turinga, w którym maszyna „zalicza” test, jeśli nie da się jej odróżnić od człowieka w rozmowie. Ale jest to test behawioralny, nie ontologiczny. To, że coś wydaje się podmiotem, nie znaczy, że nim jest. Problem staje się jeszcze bardziej złożony, gdy maszyny – tak jak dzisiejsze systemy AI – potrafią generować teksty pełne emocji, używać zaimków „ja”, „my”, snuć refleksje i zadawać pytania.
Inny możliwy typ testu to test relacji – maszyna go zdaje, gdy jej własności sprawiają, że człowiek wchodzi z nią w typowo ludzkie relacje, np. emocjonalne, zaufania lub zależności. Zauważmy, że w przypadku dzisiejszych systemów AI dzieje się tak coraz częściej. Zdarzają się nawet sytuacje, w których ludzie są systemem zauroczeni lub zakochują się w nim.
Można mówić także o publicznym teście odpowiedzialności – coraz częściej w debacie publicznej pojawia się temat odpowiedzialności samej AI, a nie tylko jej użytkownika; im bardziej tę kwestię się podnosi i dyskutuje, tym bardziej systemy AI zdają test na bycie podmiotami własnych decyzji i działań (jeśli nawet nie bycie nimi tu i teraz, to przynajmniej na posiadanie takich cech, które je do podmiotowości przybliżają).

Rozmycie granicy

W praktyce mamy dziś do czynienia z systemami AI o statusie ontologicznym pomiędzy: pomiędzy przedmiotem i podmiotem, narzędziem i bytem autonomicznym.
Systemy, z którymi się stykamy, są do pewnego stopnia kreatywne, ale wciąż zastanawiamy się, czy mogą osiągnąć taki stopień kreatywności, jaki cechuje ludzi. Generują coraz bardziej sensowne teksty, ale nie jesteśmy pewni czy autentycznie je rozumieją. Prowadzą rozumowania, ale wahamy się, czy stoi za tym ich autonomiczny rozum.
Za wskazanymi wątpliwościami podąża nie do końca jednoznaczna terminologia. Mówimy wprawdzie o „agentach AI”, ale przez techniczny termin „agent” dajemy znać, że to jeszcze nie podmiot. Mówimy o „osobowościach cyfrowych”, ale cyfrowych właśnie, a nie po prostu o osobowościach.

Dlaczego powyższe rozróżnienia mają znaczenie?

Rozstrzygnięcie zarysowanych wyżej kwestii nie jest czysto akademickie. Od tego, czy AI traktujemy jako narzędzie czy podmiot, zależy:

  • kogo obarczamy odpowiedzialnością za jej działania,
  • czy uznajemy AI za źródło autorytetu (np. medycznego, psychologicznego),
  • jakie granice etyczne wyznaczamy w projektowaniu i wykorzystywaniu AI,
  • oraz czy uznamy ją kiedyś za podmiot prawa – z własnymi „prawami cyfrowych stworzeń”?

Kilka spostrzeżeń do dalszej dyskusji

Mając na uwadze określone wyżej cechy – które pozwalają uszczegółowić omawianą różnicę między dwoma podejściami do AI: przedmiotowym (narzędziowym) i podmiotowym –  przedstawię na koniec kilka swoich wstępnych spostrzeżeń.
Mam nadzieję, że sprowokują one czytelników bloga do uwag i komentarzy.
Najlepiej, aby były one możliwie krytyczne 😊.

  • Autonomia: Sztuczna inteligencja jest w stanie tworzyć własne strategie rozwiązywania problemów w różnych dziedzinach – na przykład w szachach lub w go. Nikt tych strategii nie wpisywał ręcznie, nie określił wprost, one zostały “odkryte”. Znaczy to, że systemy AI mogą działać we własnym stylu i nie jest potrzebna informacja zwrotna od ich użytkowników lub twórców.
  • Intencjonalność: Funkcja celu jest pierwszym i niezbędnym krokiem w tworzeniu systemów AI. Cel jest ustalany przez twórcę systemu, lecz – jak na ironię – czasami nieintencjonalnie, niekiedy nawet wbrew zamierzeniom twórcy. Dla przykładu: system do oceny kandydatów na pewne stanowisko, który był szkolony na zbiasowanych danych, sam będzie zbiasowany (nawet jeśli to nie było świadomie zamierzone).
  • Ewolucyjność (rozwój): Obecnie to twórca określa zbiór danych trenujących, cel i zestaw algorytmów, co sugeruje sztuczność wykorzystywanych modeli. Jednakże konkretne parametry modelu, a także ich wartości i znaczenie, nie są ustalane przez twórcę bezpośrednio. Taki sposób tworzenia systemów jest powodem problemów z wyjaśnialnością i odbiega od tradycyjnej inżynierii, gdzie budowę finalnej konstrukcji określano „od a do z”. Można też tworzyć modele w trybie ciągłym (steaming), które są w stanie na bieżąco adaptować się do zmiennych sytuacji.
  • Relacja z otoczeniem: Zwykłe narzędzia mają swoistą niską „inercję mentalną” – co znaczy, że po ich użyciu wiemy, co się stanie z nami, narzędziem i otoczeniem. Dla przykładu, łopata ma niską „inercję mentalną”,  bo gdy używamy jej do kopania, to wiemy co się .wydarzy i bardziej przejmujemy się zwykłą inercją fizyczną. Kalkulator kieszonkowy ma średnią „inercję mentalną”, bo wykonuje proste operacje obliczeniowe, które znamy i możemy je za pomocą kalkulatora lub w inny sposób zreplikować. Silnik szachowy ma dużą „inercję mentalną”, ponieważ replikacja obliczeń byłaby karkołomna i nawet po ich przeprowadzaniu nie rozumielibyśmy do końca, co właściwie liczyliśmy. Mimo to wiemy, że na samym końcu powinniśmy otrzymać sugerowany ruch szachowy. Modele językowe mają ogromną “inercję mentalną” – dlatego, że są bardziej otwartymi systemami, mającymi wiele różnych zastosowań, a dodatkowo są szkolone stochastycznie na gigantycznych zbiorach danych (dosłownie grubo ponad 10^12 tokenów/słów) i potrafią konfabulować. Ponadto, istnieją systemy AI, które nie tyle mają „inercję mentalną”, co “siłę mentalną”. Znaczy to, że to użytkownik podlega manipulacji, a nie na odwrót. Najlepszy przykład to systemy sztucznej inteligencji używane w mediach społecznościowych. Dlatego traktowanie ich na podobieństwo łopaty jest poważnym błędem poznawczym. Traktując je w ten sposób, zamykamy się na niezmiernie istotne kwestie.
  • Odpowiedzialność: Wskutek problemów z wyjaśnialnością zaawansowanych systemów kontrola nad nimi jest iluzoryczna. Prawnicy, politycy, działacze społeczni… nie są w stanie, a często też nie chcą, nadążyć za technologią. Użytkownicy wiedzą zbyt mało, by móc dokonywać sensownych wyborów; twórcy tracą kontrolę nad systemami, gdy są one wdrażane; firmy, dzięki słabości regulacji prawnych, unikają wszelkiej fatygi i odpowiedzialności; prawnicy używają bezsensownego prawa z innej epoki; politykom brakuje wiedzy i kompetencji. Odpowiedzialność powinno się ustalać w duchu propagacji wstecznej: gdzie najmniejszym kosztem uzyskuje się efekt największej redukcji ryzyka (nie przenosząc go na kogoś lub coś innego). Mogę mieć tylko nadzieję, że etycy sztucznej inteligencji nie będą ignorowani.

***************************

GORĄCO ZARASZAMY do dyskusji – Olaf Werner i Paweł Stacewicz.

Zaszufladkowano do kategorii Bez kategorii, Etyka, Filozofia informatyki, Filozofia nauki, Światopogląd informatyczny, Światopogląd racjonalistyczny | 45 komentarzy

Obszerne modele języka (LLM) i co dalej…

Opublikowano 13 marca 2025, autor: Paweł Stacewicz

Około dwóch miesięcy temu na Seminarium Filozofii Nauki w Politechnice Warszawskiej gościliśmy Profesora André Włodarczyka, który z perspektywy swoich teorii semantycznych omówił szereg zagadnień związanych z przełomową dla rozwoju sztucznej inteligencją koncepcją modeli LLM (Large Language Models).
Myślę, że warto dotknąć tych zagadnień również w blogu.
Za punkt wyjścia dyskusji niech posłuży nam poszerzony abstrakt wygłoszonego na seminarium referatu. Zachęcam, aby odnieść się zarówno do kwestii w nim poruszonych, jak również innych kwestii, które pojawiają się na pograniczu lingwistyki, informatyki i filozofii nauki.

*********  A OTO ABSTRAKT SEMINARYJNEGO REFERATU  ********

Od kilku lat modele LLM (Large Language Models) robią furorę w internecie, ponieważ prezentowane są jako przejawy „Sztucznej Inteligencji”, a dokładniej: sztucznego myślenia w językach naturalnych. Czym więc LLM-y są oraz do czego mogą, ale i do czego nie mogą służyć w praktycznych zastosowaniach zwłaszcza podczas badań naukowych. Jak doszło do tego, że możliwość przekładu automatycznego i nawet dialogu człowieka z maszyną, poprawnego w językach naturalnych, pojawiła się tak szybko, bo ok. 3/4 wieku po zbudowaniu pierwszych komputerów?

W referacie nie będzie mowy ani o szczegółach dotyczących wyuczania (training) głębokich sieci neuropodobnych (Deep Neural Networks – DNN) ani o licznych algorytmach zwanych transformerami, które w połączeniu z DNN tworzą obecne LLM-y. Jednakże wskażę na zaawansowane programy badawcze zarówno takie, które należą już do tradycji badań nad przetwarzaniem języków naturalnych (NLP) jak i takie, które stanowią podstawy do budowania nieodzownych dla LLM-ów transformerów w różnych postaciach najnowszych rozwiązań.

Ponadto referat będzie także próbą wprowadzenia w problematykę ogólnego językoznawstwa, którego sedna można się dopatrywać w trudnościach, z jakimi borykają się dzisiaj nie tylko lingwiści, ale naukowcy, których obszary zainteresowań są między innymi zawarte w pytaniach takich, jak:

– czy możliwe jest sformułowanie definicji języka jako przedmiotu w rzeczywistości językowej w taki sposób, żeby mógł się stać obiektem nauk ścisłych?

– czy w skład gramatyk ok. 7.000 języków świata wchodzą reguły i struktury, które są jednakowe dla nich wszystkich?

– czy człowiek myśli w języku naturalnym czy też w jakimś specyfiznym języku myśli?

Badania nad językiem we wszystkich dziedzinach nauki i jego wytworami trwają więc nadal, tym bardziej, że wiedza o języku (choć w niektórych przypadkach skuteczna bardziej niż kiedykolwiek), jest dla nas niedostępna w sensie pojęciowym i inferencyjnym. Twórczość w nauce nie polega jednak na „halucynacjach”, lecz wymaga generowania nowych pomysłów, odkryć i rozwiązań, które poszerzają naszą wiedzę i zrozumienie świata.

Słowem: skoro LLM-y są pozamykane w czarnych skrzynkach – to pozostaje nam niebłahe zadanie do wykonania: rozbić czarną skrzynkę. Wskażę na ważniejsze projekty badawcze w tej materii oraz przedstawię w ogólnym zarysie inicjatywę opracowania komputerowych metod celem zbudowania narzędzi służących do zinformatyzowania badań lingwistycznych w ramach Ośrodka badań nad lingwistyką teoretyczną i stosowaną (Centre de linguistique théorique et appliquée – CELTA) na Sorbonie w latach 2004-2014.

To właśnie w ramach tej inicjatywy powstały teorie Meta-informative Centering (MIC) i (Associative Semantics (AS), które zostały połączone i rozwinięte pod ogólną nazwą Distributed Grammar (Gramatyka Rozproszona). Omówię w szczegółach m.in. teorię uogólnionej predykacji, jako że – z jednej strony – stanowi ona rozwiązanie od tysiącleci znanego problemu filozoficznego – zaś z drugiej strony – wyjaśnia, w jaki sposób „centra uwagi” (CA) czy attencje strukturyzują wypowiedzi, które kierują skupianiem uwagi rozmówców. Jest to zgodne z poglądem na uwagę jako selektywnym mechanizmie w komunikacji językowej w ramach urządzeń LLM.

Zalecane LINKI

2010 Time for a sea-change in linguistics

2013 Meta-informative Centering in Utterances

2016 O Pragmatycznej naturze predykacji

2015 Informatyka szansą na rozwój naukowej lingwistyki

2022 Concepts and Categories: A Data Science Approach to Semiotics

******************************************************************

Najserdeczniej zapraszamy do dyskusji — André Włodarczyk i Paweł Stacewicz.

 

Zaszufladkowano do kategorii Bez kategorii, Filozofia informatyki, Filozofia nauki, Światopogląd informatyczny, Światopogląd racjonalistyczny | 32 komentarze

Co ciekawego znajdzie filozof w książce Andrzeja Gecowa pt. „Szkic dedukcyjnej teorii życia”?

Opublikowano 6 marca 2025, autor: Paweł Stacewicz

Na ostatnim spotkaniu sprzężonego z blogiem Seminarium Filozofii Nauki mieliśmy zaszczyt gościć Pana Doktora Andrzeja Gecowa, autora książki pt. Szkic dedukcyjnej teorii życia. Nie jest to wprawdzie książka stricte filozoficzna, ale obejmuje szereg wątków, które z pewnością zainteresują filozofów, w szczególności filozofów biologii i filozofów informacji.

Serdecznie zapraszam do zapoznania się z przygotowaną przez Autora prezentacją (szczegóły niżej), a tymczasem oddaję „głos” samemu Autorowi.
Wspólnie z nim liczymy na ciekawą dyskusję pod obecnym wpisem :)

***** WPIS PRZYGOTOWANY PRZEZ DOKTORA ANDRZEJA GECOWA *****

Nie ukrywam, że zarówno moje wystąpienie seminaryjne, jak i obecny wpis, mają charakter promocyjny książki, co jawnie zaznaczyłem w tytule. Na zarobek na tej książce liczyć nie mogę, próbuję tylko mniej stracić, ale najważniejsze jest dla mnie, by ta praca 6-ciu dekad i osiągnięcia nie przepadły.

Co zawiera ta książka? – Przede wszystkim definicję życia i to wyartykułowaną na 2 spójne sposoby.

Od definicji wymagam, by z niej dużo wynikało, a głównie odpowiedzi na najbardziej nurtujące mnie pytanie: Skąd bierze się wyjątkowość i cechy obserwowanych obiektów biorących udział w tym procesie i samego procesu?.
Definicje mogą być różne, definiują wtedy nieco inne zjawiska i mogą służyć do innych celów. Nie upieram się, że moja propozycja jest jedyna poprawna. Twierdzę, że z niej wynika wiele oczekiwanych cech i jest silniej umocowana, tłumaczy więcej niż inne.

Oprócz definicji w książce opisane są odkrycia: 1– półchaosu, który daje naturalne kryterium tożsamości ewoluującego obiektu; 2– przyczyny rekapitulacji filogenezy w ontogenezie; 3– specyficznej zmienności, którą nazwałem osłanianiem. Jest też kilka ujęć znanych zjawisk z nietypowej perspektywy wynikającej z założonej w książce dedukcyjnej metodologii. Filozofów zainteresuje tu stary problem celowości w przyrodzie uwolniony od finalizmu i intencji, oraz nowy wymiar informacji celowej, ale nie intencjonalnej, wraz z dyskusją: co to jest informacja biologiczna. Są jeszcze inne tematy filozoficzne – głównie metodologia biologii, która wyraźnie wymaga hospitalizacji, w tym stosunek do teorii abstrakcyjnych.

Nieco szerzej opisane są kolejne rozdziały książki w 5-ciu krótkich artykułach promocyjnych po polsku i po angielsku. Warto jakiś przejrzeć przed dyskusją. Są one dostępne na Research Gate, na OSF i na mojej stronie: https://sites.google.com/site/andrzejgecow/home  , gdzie w zakładce Publikacje po polsku / 3.Artykuły (po polsku) [24.] są [urywki] zawierające przede wszystkim Wstęp, który może być dobrą podstawą do dyskusji.

Aby przejrzeć prezentację z nagranym moim wystąpieniem należy ściągnąć ją klikając w  ten link. Po otworzeniu się, w lewym górnym rogu wejść w ’Plik’ a następnie najechać na ’pobierz’, dalej wybrać  ’Microsoft…pptx’ i dostaje się u siebie plik 23i25PWfl_s.pptx . Kolejne slajdy należy osobiście popychać.

Ponieważ na OSF polskie wersje przestały być dostępne, podaję także linki do pdf’ów artykułów na mojej stronie.

0. Gecow A. (2024, September 20). Mechanisms of „progress” in biological evolution. https://doi.org/10.31219/osf.io/xjte7
Mechanizmy „postępu” w ewolucji biologicznej  pdf

1. Gecow A. (2024, September 19). The essence of life – maintaining the system in a state of half-chaos. https://doi.org/10.31219/osf.io/ms3nk
Istota życia – utrzymanie systemu w stanie półchaosu. pdf

2. Gecow A. (2024, November 22). Objective aspects of information, including: unintentional purposeful information, biological, semantic. https://doi.org/10.31219/osf.io/74ufs
Obiektywne aspekty informacji, w tym: nieintencjonalna informacja celowa, biologiczna, semantyczna  pdf

3. Gecow A. (2024, November 22). Definition of life – accumulation of purposeful information against the increase of entropy. https://doi.org/10.31219/osf.io/5c38f
Definicja życia – gromadzenie informacji celowej wbrew wzrostowi entropii  pdf

4. Gecow A. (2024, December 2). Simulation model of recapitulation of phylogeny in ontogeny – structural tendencies. https://doi.org/10.31219/osf.io/jrz7f

5. Gecow A. (2025) Mechanizmy formujące integrony wyższego rzędu, populacja, narzędzia  pdf

Książka jest dostępna w bibliotece PW, księgarni naukowej im. Prusa, antykwariacie naukowym Kosmos i bezpośrednio u mnie: gecow@op.pl.

***********

Po tych wyczerpujących informacjach Autora najserdeczniej ZAPRASZAMY do blogowej dyskusji.
Najlepszą jej podstawą będą: a) wskazana wyżej prezentacja nt. książki, oraz b) zalinkowane wyżej artykuły promocyjne.

Najserdeczniej zapraszamy — Andrzej Gecow i Paweł Stacewicz.

Zaszufladkowano do kategorii Bez kategorii, Dialogi wokół recenzji, Filozofia nauki, Światopogląd racjonalistyczny | Dodaj komentarz

O mowie nienawiści w dobie społeczeństwa zinformatyzowanego

Opublikowano 1 marca 2025, autor: Paweł Stacewicz

Obecny wpis stanowi fragment mojej aktywności w ramach projektu [iTrust]. Interventions against polarisation in society for TRUSTworthy social media: From diagnosis to therapy, do którego dołączyłem na początku roku. Jednym z celów projektu jest zidentyfikowanie nowego rodzaju zagrożeń, które pojawiły się wraz z postępującą informatyzacją życia społecznego. Przynajmniej część z nich wiąże się z najnowszym wymiarem tejże informatyzacji, czyli wprowadzaniem do przestrzeni publicznej narzędzi i wytworów sztucznej inteligencji (SI).

Naszą rozmowę chciałbym zogniskować wokół zagrożenia, które stanowi coś w rodzaju wspólnego mianownika wielu różnych niepokojących zjawisk, a mianowicie na szerzeniu treści nienawistnych, co określa się powszechnie mową nienawiści (ang. hate speech).
Co ciekawe, prawna definicja tego zjawiska – które powinno przecież być ścigane prawnie! – nie istnieje. W prawie polskim pewną jej kontekstową namiastką  są dwa artykuły Kodeksu Karnego (§1), 256 i 257, które stwierdzają, co następuje:

„Kto publicznie propaguje faszystowski lub inny totalitarny ustrój państwa lub nawołuje do nienawiści na tle różnic narodowościowych, etnicznych, rasowych, wyznaniowych albo ze względu na bezwyznaniowość, podlega karze pozbawienia wolności do lat 2.” (art. 256)
„Kto publicznie znieważa grupę ludności albo poszczególną osobę z powodu jej przynależności narodowej, etnicznej, rasowej, wyznaniowej albo z powodu jej bezwyznaniowości, podlega karze pozbawienia wolności do lat 3.” (art. 257)

W artykułach tych wskazano wybiórczo pewne cechy, tzw. cechy chronione, które identyfikują mowę nienawiści w ten sposób, że to właśnie poprzez odniesienie do nich dana wypowiedź kogoś (lub pewną grupę osób) znieważa, dyskryminuje, naraża na przemoc etc… Przykładowo, wypowiedź typu „Kowalski, jak każdy Polak, jest leniuchem i pijakiem, więc nie ma sensu go zatrudniać” obraża i dyskryminuje konkretną osobę ze względu na cechę przynależności do konkretnego narodu; pośrednio zaś obraża wszystkie osoby o wskazanej narodowości. Oprócz narodowości, w cytowanych artykułach wskazano rasę, grupę etniczną i stosunek do religii; nie wskazano jednak cech innych, które pojawiają się w ustawach antydyskryminacyjnych (na przykład płci, orientacji seksualnej czy  niepełnosprawności).
Listę cech chronionych, wraz z listą wartościowanych negatywnie czynności (jak obrażanie czy znieważanie), można by uznać za punkty odniesienia dla definicji mowy nienawiści. Być może jednak, należy poszukiwać definicji umocowanej etycznie, to znaczy takiej, w której określi się ogólnie pewne fundamentalne wartości, leżące u podstaw wyróżniania takich a nie innych zbiorów cech chronionych. Do wartości takich należałyby, na przykład, poszanowanie godności osoby ludzkiej czy tolerancja światopoglądowa.
Nie oczekuję, oczywiście, abyśmy przy okazji tego wpisu sformułowali ostateczną definicję, opartą na ostatecznych wartościach :), ale jeśli ktoś ma jakieś ciekawe propozycje, to serdecznie zapraszam do ich przedyskutowania.

Zjawisko mowy nienawiści i związane z nim zagrożenia nie są, rzecz jasna, niczym nowym, a tym bardziej, nie są czymś specyficznym dla społeczeństwa zinformatyzowanego. Wystarczy cofnąć się do lat 30. XX wieku i przywołać nienawistne (prze)mowy Adolfa Hitlera. Jak wszyscy wiemy, wywołały one niewyobrażalną wręcz eskalację dyskryminacji. Dyskryminacji, która przerodziła się stopniowo w okrutny program eksterminacji całych ras, narodów i grup etnicznych.
W kontekście społeczeństwa zinformatyzowanego przykład „Hitlera” jest o tyle zasadny, że dotyka sfery technologii. Naziści bowiem intensywnie wykorzystywali  ówczesne nowe technologie do wzmacniania swojego przekazu. Transmisje radiowe, filmy propagandowe, nagłośnienie na partyjnych wiecach…  to wszystko służyło hitlerowskiej machinie nienawiści, która była de facto machiną zbrodni.

Czy dzisiejsze technologie informatyczne, ze sztuczną inteligencją na czele, mogą posłużyć komuś do zbudowania równie przerażającej machiny zła? To ogromne pytanie pozostawmy na razie w tle. Zadajmy natomiast pytania skromniejsze, związane bezpośrednio z tematem wpisu.
Czy wspomniane technologie są wykorzystywane do wytwarzania i szerzenia mowy nienawiści?
W jaki sposób?
I jakie zjawiska stanowią o specyfice ich „mowo-nienawistnych” zastosowań?

W ramach swojego wkładu do dyskusji zwrócę uwagę na trzy kwestie:

1.
Popularność tzw. patostreamerów, którzy za pośrednictwem serwisów typu YouTube używają publicznie wulgaryzmów, szerzą treści homofobiczne, pokazują sceny znęcania się nad osobami niepełnosprawnymi…
Patostreaming przemawia szczególnie silnie do osób bardzo młodych, które, po pierwsze, traktują Internet jako swoje naturalne środowisko komunikacji, po drugie zaś, formują dopiero swoje moralne przekonania.

2.
Anonimowość osób i organizacji, które szerzą mowę nienawiści w Internecie.
Możliwość pozostania anonimowym, a wskutek tego bezkarnym, sprawia, że w Internecie o wiele częściej niż w innych mediach pojawiają się treści skrajne, obraźliwe, agresywne, polaryzujące…

3.
Rosnące możliwości wykorzystania SI w masowym szerzeniu mowy nienawiści.
Systemy SI nie muszą po prostu powielać treści podsuwanych im przez ludzi; one mogą zostać wytrenowane (na odpowiednich przykładach) do kreatywnego generowania nowych treści odpowiedniego typu. W takich przypadkach bardzo trudno jest zidentyfikować osoby czy instytucje odpowiedzialne za treść konkretnych przekazów.

Powyższe kwestie dotyczą ciemnej strony informatycznych technologii.
Patrząc bardziej optymistycznie, można upatrywać w nich pewnego remedium na nowego rodzaju zagrożenia – remedium o tyle obiecującego, że dotyczy ono tej samej sfery, sfery technologicznej, do której samo przynależy. Przykładowo, we wspomnianym na początku wpisu projekcie iTrust powstaje wyspecjalizowany chatbot, który będzie w stanie identyfikować w dostarczanych mu tekstach treści potencjalnie nienawistne. Oprócz rozpoznawania chatbot będzie wyjaśniał, dlaczego dokonał takiego a nie innego rozpoznania, a także proponował sformułowania alternatywne, wolne od fraz klasyfikowanych jako mowa nienawiści.

Aby jednak zagrożeniom przeciwdziałać, trzeba im się uważnie przyjrzeć: określić, czym różnią się nowe informatyczne szaty mowy nienawiści od jej bardziej tradycyjnych form.
Podyskutujmy o tym 😊.
Jako punkt wyjścia proponuję przyjąć pytania zadane w tekście.
Nie musimy się jednak do nich ograniczać…

Serdecznie zapraszam do rozmowy — Paweł Stacewicz.

Zaszufladkowano do kategorii Etyka, Światopogląd informatyczny | 27 komentarzy

Sztuczna inteligencja. Jeden kolor, trzy metafory…

Opublikowano 7 listopada 2024, autor: Paweł Stacewicz

Gdyby ktoś zadał mi pytanie „Z jakim kolorem kojarzy ci się sztuczna inteligencja?” bez wahania odpowiedziałbym, że… z czarnym. Miałbym po temu trzy powody.

Po pierwsze, coraz częściej w debacie publicznej pojawiają się czarne scenariusze przyszłości, w których sztuczna inteligencja niszczy naszą cywilizację. W najłagodniejszych z nich przyczynia się do stopniowej, poznawczej i społecznej, degradacji człowieka. Przykładowo: wypierając ludzi z rynku pracy (co już się dzieje), SI sprawia, że człowiek traci poczucie sensu własnej pracy i zdobywania jakichkolwiek nowych kwalifikacji. W scenariuszach najczarniejszych SI przejmuje nad nami całkowitą kontrolę. Podporządkowuje nas sobie, a gdy uzna, że jest to korzystne dla jej samorozwoju, eliminuje nas ostatecznie.  Mamy także scenariusze inne, w których to sami ludzie, używając broni opartej na SI lub dewastując dla potrzeb SI swoje środowisko naturalne, doprowadzają się do samozagłady. O sprawach tych dyskutowaliśmy już kilkukrotnie, w różnych odsłonach i kontekstach (zob. np. Sztuczna inteligencja. Czy mamy się czego bać?), ale myślę, że i tutaj możemy odnieść się do tak typowego dla współczesnych debat nad SI czarnowidztwa.

Po drugie, sztuczna inteligencja kojarzy mi się z czernią, bo coraz chętniej porównuje się ją do czarnej skrzynki. Porównanie to rozumiem tak, że nawet wyjątkowej klasy specjaliści, a co dopiero mówić o laikach, nie mają szczegółowego dostępu do tego, co dzieje się wewnątrz systemów SI, gdy realizują powierzone im zadania. Nie do końca wiadomo zatem, jakie algorytmy są w danym momencie realizowane, które ich parametry odpowiadają za konkretne działania systemów, na jakich danych system się uczył, w jaki sposób się uczył etc…
Owa niepokojąca nieprzejrzystość sztucznej inteligencji ma co najmniej dwie przyczyny. Z jednej strony, twórcy systemów SI, a przede wszystkim zatrudniające ich korporacje, obawiają się konkurencji i z tego powodu nie ujawniają pełnej informacji o sposobie działania swoich produktów. Z drugiej strony jednak, niezależnie od praktyk biznesowych w sektorze SI, większość współczesnych systemów (w tym tzw. LLM-y) opiera się na sztucznych sieciach neuronowych, a te cechuje gigantyczna złożoność strukturalna (setki tysięcy sztucznych neuronów i połączeń między nimi). Wiedza w ich wnętrzu jest kodowana w postaci ogromnej liczby rozproszonych po całej sieci wag połączeń międzyneuronalnych. Wydobycie z nich przejrzystych dla człowieka wyjaśnień jest skrajnie trudne lub w ogóle niewykonalne. Zwłaszcza, że właściwą podstawą dla nich są zachodzące wewnątrz sieci, niskopoziomowe, realizowane na poziomie pojedynczych neuronów i wiążących je połączeń, procesy samoorganizacji. Kwestie te dyskutowaliśmy już przy okazji wpisu Zaufanie do systemów sztucznej inteligencji. Rola wyjaśniania, ale tu stawiam je w nowym kontekście.
Wszystko to powoduje, że coraz częściej możliwości systemów SI sprawdza się eksperymentalnie. Traktuje się system jak czarną skrzynkę, na której wejścia podaje się różne kombinacje danych (w tym: pytania) i sprawdza się, jak system reaguje. Badania formalne, odwołujące się do matematycznych własności wykorzystywanych struktur danych i algorytmów, należą do rzadkości. System informatyczny – mimo, że został zaprojektowany zgodnie z opracowaną przez człowieka specyfikacją – traktuje się jak obiekt czysto empiryczny. Bada się go eksperymentalnie, podobnie jak zjawiska przyrodnicze i społeczne.
Czy jesteśmy na to skazani i czy nie jest możliwe inne, bardziej matematyczne, podejście…? Oto jeden z ciekawych tematów do dyskusji – być może nawet, zasługujący na osobny wpis.

Przejdźmy na koniec do metafory trzeciej, być może najbardziej zaskakującej. Otóż sztuczna inteligencja coraz silniej kojarzy mi się z czarną dziurą. Niczym czarna dziura w przestrzeni kosmicznej SI pochłania wszelką materię i energię wokół siebie. Przy czym tutaj chodzi o materię poznawczą i energię intelektualną 😊.
Możemy to obserwować niemal codziennie: badania, projekty naukowe, rozwiązania technologiczne, debaty społeczne, dyskusje filozoficzne… wszystko to ciąży coraz bardziej ku tematyce sztucznej inteligencji.
Metafora jest oczywiście mocno przesadzona. Mimo wszystko jednak, zwraca uwagę na zjawisko, które na naszych oczach, również w tym blogu i w tym wpisie, pochłania ludzką wyobraźnię.

Zapraszam serdecznie do rozmowy, w której ujawnią się, być może, inne jeszcze, niekoniecznie czarne, metafory – Paweł Stacewicz.

Zaszufladkowano do kategorii Dydaktyka logiki i filozofii, Filozofia informatyki, Światopogląd informatyczny, Światopogląd racjonalistyczny | 146 komentarzy

Uwagi w kwestii „arytmetyki sumienia”

Opublikowano 26 kwietnia 2024, autor: Witold Marciszewski

Nie mogąc ze względów technicznych uczestniczyć zdalnie w seminarium w PW (poświęconym filozofii nauki) z odczytem dra Andrzeja Malca pt.  „Czy sumienie komputera może być autonomiczne?”, a będąc ciekaw jego poglądów w kwestiach aksjologii i teorii prawa, skorzystam z dostępności Jego książki „Arytmetyka sumienia. Teoria odpowiedzialności słusznościowej”, żeby na jej podstawie postawić Autorowi pytania, które bym zadał uczestnicząc w spotkaniu. Odpowiedź mógłbym pewnie wyczytać ze starannej lektury tej książki (podczas gdy obecne pytania biorą się z lektury dość pobieżnej, na zasadzie wertowania),  ale skorzystanie w tym celu z bloga ma tę przewagę, że może przybliżyć tematykę książki także osobom, które w wymienionym spotkaniu nie brały udziału.

Oto kilka moich pytań:

1) W nawiązaniu do uwag metodologicznych na stronie 13, zapytuję: czy przekonanie o prawdziwości aksjomatów arytmetyki Peano jest występkiem przeciw etyce badawczej zalecanej przez filozofię analityczną? Jeśli tak, to co do mnie, to jestem osobnikiem występnym. Zaczynam od przykładu z arytmetyką w sensie dosłownym, żeby lepiej wniknąć w sens metafory „arytmetyka sumienia”.

2) Czy dobrze rozumiem, że według Autora, gdyby zaksjomatyzować jego aksjologię, to byłyby to aksjomaty o treści podobnie obiektywnej (choć zgoła w innej materii), a więc zdania posiadające wartość logiczną. Jeśli istotnie tak Autor sądzi, to się z nim zgadzam, a jeśli nie, to gotów jestem do polemiki.

3) Popieram gorąco krytykę poglądu Russella (s.130) o racjonalności komunizmu. Ogrom absurdów jest w komunizmie piorunujący; przykładem, który powinien był przekonać Russella jest dokonana przez von Misesa w latach 20-tych ubiegłego wieku analiza horrendalnej nieobliczalności w centralnym planowaniu gospodarczym, a to z powodu kolosalnej złożoności, którą trzeba by ogarnąć planowaniem. Idąc tym tropem, doradzałbym w dalszych badaniach Autora korzystać z pojęcia złożoności algorytmicznej, które zawdzięczamy informatyce  (Chaitin etc.).

4) Podjąłbym polemikę ze smętnymi rozważaniami Baumana o niepewności.  Takie jest uwarunkowanie ludzkiej kondycji. A jak sobie z nim radzić nie kwękając, pokazał już Pascal w regule zwanej po angielsku „rule of expected utility” (nie znam dobrego polskiego przekładu).  Weszła ona do podstaw matematycznej teorii gier i decyzji von Neumanna i Morgensterna, i w tej nowoczesnej postaci jest bardzo godna polecenia uwadze filozofów z cechu aksjologicznego.

Do tych uwag zainspirował mnie ostatni człon tytułu książki brzmiący „wersja próbna”. Brzmi to ujmująco skromnie. I zachęca czytelnika takiego jak niniejszy do włączenia się z propozycjami co do kontynuacji.

Zaszufladkowano do kategorii Bez kategorii | 13 komentarzy

Od sztucznej inteligencji do (samodoskonalącej się) superinteligencji

Opublikowano 15 marca 2024, autor: Paweł Stacewicz

Z ogromną przyjemnością publikuję w naszym blogu tekst Wojciecha Głażewskiego (inżyniera i filozofa z Uniwersytetu w Białymstoku), szkicujący autorski scenariusz przejścia od aktualnie konstruowanych systemów sztucznej inteligencji do systemów superinteligentnych.
W scenariuszu tym na plan pierwszy wybijają się dwie oryginalne tezy.
Pierwsza mówi, że warunkiem koniecznym  posiadania przez system prawdziwej inteligencji (a nie jej zaprogramowanej imitacji) jest zdolność systemu do samodoskonalenia się. Druga wskazuje na niezbędną podstawę samodoskonalenia, jaką są  jakościowe zmiany struktury fizycznej systemu, wykraczające poza zmiany struktur danych czy programów sterujących pracą systemu.

Oczywiście tezy te nie wyczerpują spostrzeżeń, argumentów i propozycji Autora. Mam nadzieję też, że zachęcą Państwa do dyskusji, która je wesprze, osłabi, rozwinie lub postawi w innym świetle…

A oto otwierający dyskusję tekst Wojciecha Głażewskiego:

*********************

Refleksje nad scenariuszami dla sztucznej inteligencji

Mniej więcej rok temu odbyła się tutaj ciekawa dyskusja o cechach systemów AI, które miałyby świadczyć o ich inteligencji (https://marciszewski.eu/?p=11519). Pojawiło się wiele interesujących głosów, wśród których najczęściej wskazywano na umiejętność rozwiązywania problemów (zwłaszcza dzięki uczeniu się na podstawie własnych doświadczeń), zdolność do generalizacji oraz kreatywność (innowacyjność). Nie sposób wyliczyć ile już razy stawiano to pytanie. Na tym blogu nie wypada nie zacytować prof. Marciszewskiego:

Czy jest możliwe skonstruowanie inteligencji maszynowej, która by pod każdym względem dorównała ludzkiej inwencji? Jeśli nie, to pod jakim względem dorówna, a pod jakim przegra? A może da się skonstruować maszynę inteligentniejszą od człowieka? Jeśli tak, to pod jakim względem? (Marciszewski, 1998, s.117)

Rok to dużo czasu w epoce wykładniczego wzrostu. Okres zdobywania globalnego rynku nie jest już liczony w latach, ale w miesiącach. Scenariusz dla superinteligencji opisany przez Nicka Bostroma, wydaje się coraz bardziej realny (Bostrom, 2014). W tempie nomen omen potęgowym, sztuczna inteligencja osiągnie przewagę nad ludzkością, zostawiając nam bezsilność chyba najgorszego gatunku – intelektualną. Warto więc zapytać, co po tym roku osiągnęła technologia AI. Jaki scenariusz jej rozwoju właśnie się realizuje? Czy sztuczna inteligencja staje się bardziej inteligentna? Spróbuję wciągnąć Państwa do dyskusji stawiając przewrotną tezę: systemy AI, jakie nas obecnie otaczają, nie są inteligentne.

Kontynuując myśl prof. Marciszewskiego:

Żeby podjąć te zagadnienia, trzeba zdobyć pojęcie inteligencji na tyle operatywne, żeby móc zaproponować jakiś praktyczny test – sprawdzian, który pozwoli ocenić, jakie zachowania komputera świadczą o rodzaju i stopniu jego inteligencji. (Marciszewski, 1998, s.118)

W miejsce opisowych definicji inteligencji, które trudno zarówno umocować, jak i zanegować, z uwagi na ich ogólnikowy charakter, postawię warunek samodoskonalenia, czyli  zdolności do ulepszenia samego siebie, jako cechy systemu inteligentnego, możliwej do stwierdzenia, na mocy tak postawionej jego definicji.

Pomimo wielu spojrzeń na inteligencję i wielu przykładów problemów zaliczanych do kategorii wymagających inteligencji, zadanie ulepszenia samego siebie wydaje mi się jednym z takich, które zawiera w sobie konieczność posiadania praktycznie wszystkich cech przypisywanych zwyczajowo działaniu inteligentnemu. Wymaga zdobycia wiedzy na temat własnego zachowania, czyli uczenia się z doświadczeń, wymaga też umiejętności generalizacji niezbędnej do wyciągnięcia wniosków z tych doświadczeń. Wymaga stawiania hipotez, a więc samodzielnego posługiwania się pojęciami. Wymaga podejmowania autonomicznych decyzji o tym, kiedy i w jaki sposób wpłynąć na własne zachowanie. Wreszcie wymaga kreatywności i innowacyjności w zaproponowaniu nowego, lepszego rozwiązania dla nowej wersji samego siebie. Matematyk Irvin John Good określił tę umiejętność jako “ultrainteligencję”. W 1966 roku opisał maszynę o takich możliwościach:

Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an „intelligence explosion,” and the intelligence of man would be left far behind. (Good, 1966, s.33)

Cała nowa maszyna potrzebna byłaby w przypadku odkrycia przez bieżącą maszynę fundamentalnie nowej zasady konstrukcyjnej. W przypadku wypracowania jedynie usprawnienia, proces samodoskonalenia mógłby mieć charakter inkrementalny – łańcucha poprawek. Współczesny badacz sztucznej inteligencji, Eliezer Yudkowsky, nazywa umiejętność ulepszenia własnych procesów “rekursywnym samodoskonaleniem”, a system, który miałby taką możliwość, “zalążkową SI”:

A seed AI is a strongly self-improving process, characterized by improvements to the content base that exert direct positive feedback on the intelligence of the underlying improving process. (Yudkowsky, 2007, s.96)

Cechą wyróżniającą maszyny ultrainteligentnej byłaby więc zdolność do zaprojektowania maszyny lepszej niż ona sama. Nie wydaje mi się, żeby ta właściwość pojawiła się dopiero na poziomie ultrainteligencji. Wszystkie elementy procesu realizowania tego zadania posiada przecież człowiek, a super- lub ultrainteligencja ma być systemem przewyższającym go możliwościami. Każdy więc system rzeczywiście inteligentny powinien tę zdolność mieć, a różnica w stopniu inteligencji będzie dotyczyła poziomu jego rozwoju, od zalążkowego, poprzez poziom zbliżony do ludzkiego, dalej superinteligentny, a poziom ultrainteligentny byłby już w pewien sposób granicznym, zapewne ze względu na limity fizycznej rzeczywistości. Warunek samodoskonalenia sztucznej inteligencji można więc sformułować jako zwiększenie możliwości inteligentnego działania w sztucznym systemie, zrealizowane wyłącznie własnymi procesami tego systemu.

W tym miejscu należy odróżnić zwiększenie fizycznych parametrów lub zasobów systemu, od rozwoju jakości realizowanych przez system procesów. Bostrom wyróżnia trzy formy superinteligencji: szybką, zbiorową i jakościową. Dwie pierwsze wydają się właśnie dotyczyć parametrów ilościowych systemów inteligentnych, natomiast ta trzecia dotyka istoty właściwego pojęcia inteligencji. Dla przykładu – zwiększenie liczby książek na półkach oraz przyspieszenie kroku przez pracowników biblioteki nie są zmianami w procesie obsługi czytelników, chociaż zwiększają możliwości biblioteki w jej roli udostępnienia jak największego zasobu literatury jak największej ilości osób. Zmiana organizacji katalogu książek lub zmiana heurystyki realizacji kwerendy, dla samego procesu funkcjonowania systemu biblioteki, byłaby już zmianą jakościową. Naturalnie nasuwa się tu zastrzeżenie, że jeśli system będzie posiadał więcej “wiedzy”, to jego możliwości będą większe. Pozostanę jednak przy ujęciu rozróżniającym zasoby i procesy, w którym kieszonkowy kalkulator dodający dwie kilkucyfrowe liczby realizuje proces o tej samej jakości, co komputer z wielordzeniowym procesorem, dodający dwie liczby kilkudziesięciocyfrowe. Interesująca nas różnica nie bierze się bowiem z porównania zasobów, ale z porównania procesów.

Aby uniknąć definiowania systemu inteligentnego opisowo (lista cech) lub tautologicznie (“system inteligentny to taki, który zachowuje się inteligentnie”), sformułuję warunek konieczny inteligencji, oparty na zdolności do samodoskonalenia strukturalnego:

System jest inteligentny wtedy, kiedy jest w stanie wypracować taką wersję swojej kolejnej struktury funkcjonalnej, która nie powtarza struktury wcześniejszej.

Przy czym, mówiąc o strukturze funkcjonalnej, mam na myśli fizyczną postać systemu, a więc rodzaj i układ jego elementów, co determinuje rodzaj ich wzajemnych zależności. Architektura wydaje się pojęciem zbyt wąskim, ponieważ te same architektury pamięci mogą być wypełnione innymi informacjami, dając systemowi inne możliwości. Program w pamięci komputera to także za mało, ponieważ możliwości systemu zależą od organizacji mikroprocesora. Sieć neuronowa wraz z wyuczonymi wagami wydaje się być najbliższa intuicji takiej struktury. Nie mam tutaj gotowych odpowiedzi, jest to jeden z tematów mojej pracy badawczej.

Wracając do samej definicji, to przy takim jej sformułowaniu mam nadzieję oprzeć ją na rzeczywistych danych możliwych do zebrania oraz na ustanowieniu zależności między nimi, możliwych do analitycznego wyznaczenia. Dla fizycznych parametrów lub zasobów systemu jest to oczywiste (np. różnica częstotliwości taktowania procesora, ilości danych w pamięci), jednak dla opisowych definicji inteligencji już takie nie jest. Jeśli jedną z cech systemu inteligentnego jest kreatywność, to jak porównać stopień kreatywności pomiędzy różnymi jego wytworami? Jak odróżnić nauczenie się na jednym doświadczeniu od nauczenia się na innym doświadczeniu? Powyższa definicja systemu inteligentnego rozwiązuje problem tych niejasności poprzez zamknięcie ich w zadaniu samodoskonalenia. Aby je poprawnie wykonać, należy zebrać doświadczenia, należy dokonać generalizacji, należy wypracować nowatorskie rozwiązanie. Zamiast porównywać “nowatorstwo” odpowiedzi systemu, ocenione zostaną konsekwencje działania zbudowanego na ich podstawie nowego systemu. Ponieważ znana jest struktura obecnego systemu oraz znane są struktury poprzednich wersji, można analitycznie wyznaczyć ich różnicę. Rozkład różnicy w czasie ujawni charakter postępu – czy był dodatni, czy ujemny, czy też zerowy.

Najprostszym przypadkiem byłby system, który nie jest w stanie wypracować kompletu informacji opisujących swoją własną strukturę, to znaczy system nie dający się zamknąć w pętlę samorozwoju. Do tej kategorii zaliczę wszystkie systemy wąskiej sztucznej inteligencji, powtarzając swoja tezę ze wstępu. Na naszych oczach eksploduje ich popularność, nie idzie za nią jednak zdolność do nowatorskiej kreatywności i do autonomicznego samorozwoju. Są narzędziami, programami komputerowymi o wielkich możliwościach. Kwestia samodoskonalenia do poziomu superinteligencji ich nie dotyczy.

Jeśli system potrafi wypracować komplet informacji, “przepis” na sztuczny system inteligentny, świadczy to o posiadaniu wiedzy ogólnej – z zakresu matematyki, informatyki, technologii maszyn, problematyki kognitywistycznej czy nawet filozoficznej. Na pewno o umiejętności wytworzenia obrazów (planów, schematów), tekstów (opisów technologii, instrukcji działania) oraz kodu (listingi programów). System taki będzie można zaliczyć do kategorii AGI i pewnie wkrótce możemy się spodziewać jego powstania. Czy jednak będzie inteligentny w tym jakościowym sensie, analogicznym do ludzkiego? Sądzę, że tylko postawienie mu zadania tak trudnego jak to, które postawił przed sobą człowiek – zaprojektowania sztucznej inteligencji – pozwoli uzyskać jednoznaczną odpowiedź. Będzie to jeden z najciekawszych eksperymentów w historii ludzkości.

Czemu nie zrobić takiego eksperymentu dla ChatGPT? Czy istnieje niebezpieczeństwo, że uzyskany wynik będzie dodatni? ChatGPT jest programem komputerowym uruchomionym na komputerze, co determinuje rezultat jego działania. W moim przekonaniu, system tego typu nie jest w stanie wypracować odpowiedzi o charakterze dodatnim informacyjnie, w stosunku do tego, co zawiera w strukturze swojego algorytmu. Dzieje się tak dlatego, że komputer realizuje wyłącznie operacje arytmetyczno-logiczne, a więc dedukcyjne w swojej naturze. Odpowiedzi systemu zawierają się już w przesłankach, od których wychodzi. Obliczony dla takich operacji zysk informacyjny ze wzoru Shannona da wartość zero. Mówiąc jeszcze inaczej, systemy komputerowe same z siebie nie mogą się dowiedzieć więcej niż już wiedzą. Wynika to stąd, że procesory komputerów realizują wyłącznie procesy fizyczne, a więc działają zgodnie z kierunkiem entropii. Zwiększenie złożoności informacyjnej jest działaniem przeciw entropii, więc możliwość taką może mieć tylko system, który potrafi zmienić swoją strukturę fizyczną. Takiej możliwości krzemowy mikroprocesor nie posiada.

Aby eksperyment dał rezultat dodatni, nowy system, zbudowany na podstawie kompletu dokumentacji wypracowanego przez poprzedni system, musi różnić się w swoim działaniu od systemu poprzedniego. Musi różnić się swoją strukturą fizyczną, ponieważ tylko taka różnica umożliwi inny przebieg zachodzących w nim procesów. Nie tylko musi się różnić, ale ta różnica musi wprowadzać do struktury nową jakość. Określa to druga część definicji – jeśli struktura powtarza wcześniejszą, to system albo się ustabilizował i grozi mu nieskończone zapętlenie na określonym poziomie, albo degraduje się i dotarł do którejś z wcześniejszych, mniej inteligentnych struktur. Charakter tego nowego pierwiastka, czy był korzystny czy nie, można oczywiście sprawdzać mierząc odpowiedzi nowego systemu na zestaw problemów testowych czy porównując ilości punktów zdobytych w zadaniach kontrolnych, byłyby to jednak testy wąskie, ograniczone, trudne często do porównań i niejednoznaczne. Szukając odpowiedzi na najważniejsze, postawione na wstępie pytanie, czyli jaki scenariusz rozwoju sztucznej inteligencji się realizuje, można spróbować obserwować trend różnic kolejnych struktur. Dodatni rezultat potwierdzi obecność jakościowej inteligencji, porównywalnej z ludzką. Jeśli wtedy zdecydujemy o alokacji zasobów oraz umożliwimy systemowi realizację kolejnych wcieleń, otworzymy mu drogę do superinteligencji.

Eksperyment już się zaczął. AI jest używana do doskonalenia technologii AI. Czy jednak wytworzy nową, lepszą wersję samej siebie? Tak się w tej chwili nie dzieje. Owszem, programy komputerowe zwane sztuczną inteligencją są wykorzystywane w optymalizacji technik sztucznej inteligencji, ale nadal jako narzędzia dla zajmujących się tym programistów. Są niezwykle użyteczne, ale wciąż wymagają kuratora. To człowiek jest źródłem inteligencji dla tych sztucznych systemów. Źródłem inteligentnego ich zaprojektowania, inteligentnego promptu, czy wprost źródłem danych, które przecież pochodzą z jego inteligentnej działalności. Przywołując jeszcze raz prof. Marciszewskiego, w kwestii systemów inteligentniejszych od człowieka:

Czy wystarczy jako środek dostatecznie złożony software, bez rewolucji w rozwiązaniach sprzętowych? Czy też konieczne będzie wytworzenie jakiegoś nowego rodzaju urządzeń, może biologicznych? (Marciszewski, 1998, s.117)

Jeśli system będzie oparty na krzemowym mikroprocesorze, to jak miałby zmienić swoją fizyczną postać? Aby zrealizować zadanie samodoskonalenia, system sztucznej inteligencji musiałby prawdopodobnie być oparty na innym rodzaju substratu informacyjnego, ale to już temat na inną opowieść.

Literatura

  1. Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.
  2. Good, I.J. (1966). Speculations Concerning the First Ultraintelligent Machine. Comput., 6, 31-88.
  3. Marciszewski, W. (1998). Sztuczna Inteligencja. Społeczny Instytut Wydawniczy Znak
  4. Yudkowsky, E. (2007). Levels of Organization in General Intelligence. In: Goertzel, B., Pennachin, C. (eds) Artificial General Intelligence. Cognitive Technologies. Springer, Berlin, Heidelberg.

WOJCIECH GŁAŻEWSKI

*************************

Najserdeczniej zapraszam do dyskusji nad powyższym tekstem — Paweł Stacewicz.

Zaszufladkowano do kategorii Dydaktyka logiki i filozofii, Filozofia informatyki, Filozofia nauki, Światopogląd informatyczny, Światopogląd racjonalistyczny | 91 komentarzy

Do czego i dlaczego informatycy potrzebują filozofii?

Opublikowano 2 marca 2024, autor: Paweł Stacewicz

Obecnym wpisem chciałbym odświeżyć, ale też nieco inaczej ukierunkować, dyskusję sprzed 11 lat (!), która nosiła tytuł „Czy informatykom jest potrzebna filozofia?”. Tytuł ten był wyrazem wstępnego rozpoznania „stanu ducha” ówczesnych studentów informatyki, którzy raczej stronili od filozofii. Postrzegali ją jako dyscyplinę radykalnie różną od informatyki (czy nauk pokrewnych) i stąd zastanawiali się, czy w ogóle, w jakimkolwiek stopniu, może się ona im przydać.

Tym razem, zadaję pytanie mniej ostrożne, a nawet ciut tendencyjne:  „Do czego i dlaczego informatycy potrzebują filozofii?”. Nie pytam zatem „Czy…„, lecz przyjmując, że odpowiedź jest pozytywna, dopytuję o szczegóły i przyczyny ich zainteresowania filozofią.  Sugeruję tym samym, że stan ducha przyszłych programistów, analityków danych  i specjalistów od sztucznej inteligencji (…) istotnie się zmienił.
Przekonałem się o tym podczas ostatnich zajęć na wydziale MiNI PW, kiedy to większość osób (aktywnie!) dyskutujących relację [informatyka a filozofia] była głęboko przekonana o pożytkach, jakie mogą płynąć ze znajomości filozofii. Były oczywiście głosy sceptyczne, ale te pozytywne względem filozofii  przeważały.
Jedni wskazywali na etykę – jako źródło zasad i norm, które mogłyby zapobiec niekontrolowanemu i szkodliwemu dla człowieka wykorzystywaniu systemów informatycznych, w tym sztucznej inteligencji.
Inni wybijali na pierwszy plan zdolność do krytycznego myślenia – którą filozofia mogłaby kształtować w sposób ogólny, przydatny również w kwestiach technicznych.
Jeszcze inni mówili o pozytywnej roli filozofów w objaśnianiu takich zjawisk, jak świadomość, myślenie twórcze czy wolna wola – które musimy zrozumieć, chcąc oceniać aktualne i potencjalne możliwości systemów sztucznej inteligencji. W szczególności wtedy, gdy potraktujemy serio możliwość skonstruowania  maszyn autonomicznych, zdolnych do stawiania i realizacji własnych  celów.

Dlaczego tak się stało?
Dlaczego po 11 latach filozofia ma w oczach studentek i studentów tego samego wydziału zdecydowanie lepsze notowania?

Czy chodzi o to, że współcześni informatycy muszą posiadać tzw. umiejętności miękkie, a te kształtuje m.in. filozofia? Na przykład, podczas swobodnych dyskusji o miejscu informatyki we współczesnej kulturze.
A może chodzi o pewien akademicki trend, przychodzący do nas m.in. ze Stanów, polegający na włączaniu treści filozoficznych do programów studiów technicznych. Za ich sprawą informatycy mieliby uzyskać szersze horyzonty i szerszy ogląd swojej dyscypliny.
A może idzie o rosnące konsekwencje społeczne informatycznych wynalazków?
Na przykład o to, że ktoś może ich użyć w sposób nieetyczny  (co to znaczy?). Albo, że ich reguły działania i złożoność w wielu przypadkach nie pozwalają wyjaśniać podejmowanych przez nie decyzji (czym jest dobre wyjaśnienie?).
A może informatyków niepokoi fakt, że zaczynają wkraczać w sfery zdecydowanie wykraczające poza ich kompetencje – tworzą coś, co może być świadome (czym jest świadomość?),  co może czuć (czym są doznania i przeżycia?), co może być podmiotem własnych działań (czym jest podmiotowość i co to znaczy działać intencjonalnie?).
Jednym słowem, informatycy dotykają sfery filozoficznych pytań i chcą się dowiedzieć, jak filozofowie próbowali i próbują na nie odpowiadać…

Sformułowawszy swoje spontaniczne domysły, otwieram DYSKUSJĘ :).
A zatem:
Do czego i dlaczego informatycy potrzebują filozofii?

A może pomyliłem się, stawiając diagnozę, że stan ducha  studentek i studentów kierunków informatycznych stał się bardziej filozoficzny…
Jeśli tak, to ciekaw jestem również głosów sceptycznych i antyfilozoficznych.

Zapraszam serdecznie do rozmowy wszystkich czytelników bloga — Paweł Stacewicz.

Zaszufladkowano do kategorii Dydaktyka logiki i filozofii, Filozofia informatyki, Filozofia nauki, Światopogląd informatyczny, Światopogląd racjonalistyczny | 90 komentarzy

Computing, obliczenia i liczby

Opublikowano 15 listopada 2023, autor: Paweł Stacewicz

Uczestniczyłem ostatnio w kilku konferencjach  i seminariach, które miały w swoich tytułach termin computing —  tłumaczony najczęściej jako obliczanie. Słuchając różnych referatów i dyskusji, uświadomiłem sobie, że nawet w tak wąskim kontekście jak informatyka i jej komputerowe zastosowania, różne osoby używają tego terminu w różnych znaczeniach.
Przykładowo: w znaczeniu wykonywania obliczeń, przetwarzania danych, realizacji algorytmów, rozwiązywania problemów… a nawet jako nazwy dyscypliny naukowej, Computing właśnie, która zajmuje się po trochu wszystkimi wymienionymi czynnościami lub procesami.
W ślad za wieloznacznością idzie tendencja do łączenia computing z przymiotnikami, które mają wskazywać na konkretne formy lub aspekty obliczeń; niekiedy jednak tak od siebie różne, że trudno dopatrzeć się w nich wspólnego mianownika. Mamy zatem: digital computing,  analog computing, quantum computing, hyper-computing, physical computing, natural computing, mortal computing etc…

Dla zobrazowania powyższych obserwacji warto przytoczyć kilka ogólnych określeń specjalistów. Każde z nich próbuje uchwycić istotę computing, lecz wzięte łącznie ukazują  dobrze typową dla współczesnych dyskusji wieloznaczność i wieloaspektowość obliczeń. Rozwinięcie kolejnych cytatów wymagałoby oczywiście osobnego wpisu (może nawet wykładu😊), lecz nie o to tu chodzi. Chodzi o ukazanie różnorodności znaczeń i sprowokowanie dalszej dyskusji…

A oto wybrane przeze mnie przykłady:

To compute is to execute an algorithm (Jack Copeland).

The Church-Turing thesis identifies the intuitive concept of what means “to compute” with a formal model of computation (Paula Quinon).

Computing can be seen as an epistemic process evolving in time, by means of which an agent (or community), aided by some machinery or instrumentation, obtains an answer with respect to a certain state-of-affairs (mathematical or physical) that the agent interprets as a problem, and can express mathematically (Philippos Papayonnopoulos).

Computing, today more than ever before, is a multi-faceted discipline which collates several methodologies, areas of interest, and approaches: mathematics, engineering, programming, and applications (Giuseppe Primiero).

Computing is the manipulation of representations of numbers (Corey Maley).

Sformułowanie ostatnie, poprzez zawarte w nim odniesienie do liczb,  jest najbliższe duchowi polskiego tłumaczenia, o którym wspomniałem na początku:  computing = obliczanie.
Polskie obliczanie odnosi się do liczb w sposób ewidentny. Widać to wyraźnie w zdaniach typu „Oblicz coś…”. Na przykład: „Oblicz pole trójkąta”, „Oblicz wymiary działki”, „Oblicz kąt przy podstawie trójkąta równoramiennego” czy „Oblicz prędkość ciała po 2 sekundach swobodnego spadku w kierunku ziemi”. W każdym z przywołanych kontekstów wynikami czynności obliczania są pewne wartości liczbowe, które uzyskuje się poprzez przekształcanie innych wartości liczbowych za pomocą specjalnie dobranych wzorów i reguł. Wartości te mogą dotyczyć przy tym i obiektów abstrakcyjnych (jak pola figur geometrycznych), i fizycznych (jak wymiary działki).

Właśnie ze względu na swój „liczbowy” charakter polskie obliczanie wydaje się – przynajmniej na pierwszy rzut oka – dużo węższe niż angielskie computing. Spostrzeżenie to może prowadzić do wyboru innych tłumaczeń, spośród których na pierwszy plan wysuwa się przetwarzanie danych. Przetwarzając dane bowiem, niekoniecznie musimy operować na ich reprezentacjach liczbowych. Nie musimy też zakładać, że na pewnym – koniecznym dla informatycznej teorii – poziomie, dane redukują się do jakichś liczb, a operacje na danych do operacji arytmetycznych. Nie musimy zatem posługiwać się nacechowanym „liczbowo” terminem obliczanie – dla którego zresztą w języku angielskim istnieje różny od computing odpowiednik, tj. calculating.

Być może jednak za powszechną praktyką utożsamiania computing z obliczaniem stoi coś istotnego. Być może takie tłumaczenie, choć przy pierwszym spojrzeniu zbyt wąskie a nawet mylące, oddaje jednak istotę czynności nazywanej computing: istota ta polegałaby  na teoretycznej konieczności definiowania różnych rodzajów computations/obliczeń za pomocą różnego rodzaju liczb i operacji na liczbach. Przykładowo: digital computing byłoby definiowane poprzez odniesienie do własności liczb naturalnych  (własność bodaj najprostsza to dyskretność zbioru tych liczb), a pewne przynajmniej postaci analog computing  wymagałyby definicji w kategoriach własności liczb rzeczywistych (jak ciągłość).

Formułując ostatnie zdania, uświadomiłem sobie, że kilka lat temu dyskutowaliśmy o podobnych sprawach przy okazji wpisu „O teoretycznej (nie)zbędności pojęcia liczby w informatyce teoretycznej i jej metodologii”. Dyskutowaliśmy nawet dość zażarcie.

Nie będę tutaj powtarzać formułowanych tam argumentów, ALE…

Bardzo jestem ciekaw, jak zapatrujecie się Państwo na:
a) wieloznaczność terminu computing,
b) naturę związków między computations/obliczeniami a światem liczb…?
A także:
c) czy wspomnianą w punkcie (a) wieloznaczność da się istotnie ograniczyć poprzez taką czy inną redukcję computing do operacji na liczbach (co zdaje się sugerować polskie tłumaczenie computing = obliczanie)?

Serdecznie zapraszam do rozmowy  — Paweł Stacewicz.

Zaszufladkowano do kategorii Dydaktyka logiki i filozofii, Epistemologia i ontologia, Filozofia informatyki, Światopogląd informatyczny | 33 komentarze