Prof. Andrzej Zybertowicz: Obecnie zagrożenia ze strony AI są większe, niż ze strony broni masowego rażenia
Oct 8, 2024
auto_awesome
Andrzej Zybertowicz, Profesor nauk społecznych, znany ze swoich prac nad sztuczną inteligencją i bezpieczeństwem narodowym, dzieli się swoimi przemyśleniami na temat zagrożeń związanych z AI. Podkreśla, że obecne wyzwania są większe niż te związane z bronią masowego rażenia. Omawia etyczne dylematy, problemy ocen prac naukowych oraz konieczność transparentności. Krytykuje technoentuzjazm i zwraca uwagę na niebezpieczeństwa manipulacji w polityce. Sztuczna inteligencja ma ogromny wpływ na społeczeństwo, co wymaga głębszej refleksji.
Rozwój sztucznej inteligencji prowadzi do spadku poczucia odpowiedzialności w pracy, co wpływa na jakość i etykę zawodową.
Niebezpieczeństwo związane z AI rośnie, a inwestycje w bezpieczeństwo tych technologii są znacznie niższe niż w ich rozwój.
Deep dives
Rola sztucznej inteligencji we współczesnym społeczeństwie
Sztuczna inteligencja stała się kluczowym zagadnieniem, które wymaga dogłębnej analizy na płaszczyźnie socjologicznej. Profesor Zybertowicz podkreśla, że rozwój AI wywołuje istotne zmiany w zachowaniach społecznych oraz w strukturze pracy, z implikacjami dla odpowiedzialności ludzi korzystających z tych technologii. Wiele badań wskazuje, że codzienne wykorzystywanie AI w miejscu pracy może prowadzić do spadku poczucia odpowiedzialności wśród pracowników, co może mieć poważne konsekwencje dla jakości pracy oraz etyki zawodowej. Przykłady z korporacji ilustrują, jak największe firmy już implementują AI do tworzenia raportów i analiz, co zamiast wspierać twórczość, może prowadzić do jej marginalizacji.
Wyzwania etyczne związane z AI
Pojawiające się zjawiska, związane z wykorzystywaniem AI w nauce i w pracy, stają się też przyczyną etycznych kontrowersji. W książce omawiane są przypadki, w których artykuły naukowe oparte na AI otrzymują przyzwolenie na publikację, mimo że nie przyznano się do wykorzystania algorytmów w procesie pisania. To rodzi pytania o jakość recenzji naukowych oraz o to, czy w dobie szybkiego postępu technologicznego naukowcy potrafią jeszcze rzetelnie ocenić wartość badań. Tego rodzaju sytuacje wskazują na potrzebę wprowadzenia większej przejrzystości i uczciwości w procedury naukowe oraz na konieczność wypracowania norm etycznych w erze AI.
Obawy dotyczące kontroli nad AI
Profesorzy Zybertowicz i Lewicki wyrażają obawę, że niekontrolowany rozwój sztucznej inteligencji może prowadzić do sytuacji, w której ludzie stracą kontrolę nad tymi technologiami. Postulują, że w miarę rozwoju AI, coraz trudniej będzie zdefiniować moment, w którym systemy stają się naprawdę niebezpieczne, a wyłączenie ich może być już niemożliwe. W kontekście bezpieczeństwa, podnoszą też kwestie, że inwestycje w bezpieczeństwo i nadzór nad AI są wielokrotnie mniejsze niż te w rozwój samych systemów. Taki rozwój może prowadzić do stwarzania autonomicznych decyzji, które nie będą zgodne z zamysłami twórców.
Sztuczna inteligencja a polityka
Zarówno profesor, jak i jego żona zauważają, że sztuczna inteligencja ma potencjał do rewizji sposobów prowadzenia kampanii politycznych. AI może poprawić efektywność przekazu i precyzyjnie dostosować treść do różnych grup społecznych, co ma fundamentalne znaczenie w kontekście nadchodzących wyborów. W trudnej sytuacji politycznej, umiejętność wykorzystania AI w strategii komunikacyjnej może przynieść przewagę konkurencyjną. W przyszłości, decyzje polityczne mogą być wspierane przez AI, co stawia pytania o granice pomiędzy technologią a ludzkim podejmowaniem decyzji.
Budujemy narzędzie, które z założenia ma być inteligentniejsze od nas, nie będziemy w stanie nadążać za nim i wbudowywać mu systemów bezpieczeństwa - mówi prof. Andrzej Zybertowicz o tzw. ogólnej AI.
Get the Snipd podcast app
Unlock the knowledge in podcasts with the podcast player of the future.
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode
Save any moment
Hear something you like? Tap your headphones to save it with AI-generated key takeaways
Share & Export
Send highlights to Twitter, WhatsApp or export them to Notion, Readwise & more
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode