„Proces myślenia nie może być outsourcowany” - wywiad z dr A. Kurowicką I "Thinking cannot be outsourced" - interview with dr A. Kurowicka
Wywiad przeprowadziła Karolina Kulicka
1. Czy aplikacje AI wkraczają na salę wykładową i na uniwersytet?
Aplikacje
AI, ich możliwości a szczególnie zagrożenia, które się z nimi wiążą, stały się
tematem rozmów w moim Ośrodku od momentu publicznego udostępnienia Chatu GPT. W
tej chwili mamy już do czynienia z aplikacjami AI w dwóch wymiarach.
Uniwersytet oferuje szkolenia jak z takich narzędzi korzystać dla
celów dydaktycznych – więc z jednej strony myślimy o korzyściach, jakie możemy
z nich czerpać. Jednak najczęstszy kontakt z aplikacjami AI ma miejsce w dużo
mniej optymistycznych okolicznościach – to sytuacje, w których studentki i
studenci oddają nam prace częściowo lub w całości napisane przez AI.
Studia,
na których wkładam, to amerykanistyka – studia kulturoznawcze (choć z
elementami historii, politologii, socjologii i innych pokrewnych dyscyplin).
Moim głównym celem na zajęciach jest skłonienie osób studenckich do krytycznego
namysłu na temat otaczającej ich rzeczywistości (co może też obejmować
oglądanie seriali i nie jest tak ponure, jak się wydaje!). Temu nadrzędnemu
celowi są podporządkowane aktywności na zajęciach i metody zaliczeń, w tym
dyskusje na temat kultury popularnej i tekstów naukowych, praca w grupach, a na
koniec semestru zwykle praca pisemna spełniająca wymogi pracy naukowej – tj.
zawierająca tezę autorki lub autora oraz argumenty tę tezę potwierdzające,
oparte na udokumentowanych źródłach. Pewnie każda osoba znająca choć trochę możliwości
AI od razu widzi, że wiele kroków w tym procesie AI może ułatwić lub nawet
załatwić za nas. Może podsumować najważniejsze tezy tekstu naukowego i tym
samym dać nam „ściągę” na zajęcia. Może podpowiedzieć źródła przydatne do
napisania pracy zaliczeniowej (choć czasami mogą to być źródła nieistniejące). Wreszcie może po prostu napisać za nas esej.
Rzecz w tym, że celem studiowania nie jest tak naprawdę dowiedzenie się
w punktach co Foucault zapisał w „Historii seksualności”, ani stworzenie eseju
analizującego serial „Sex Education”. To są jedynie środku do właściwego celu. Jest nim zdobycie umiejętności krytycznego myślenia, rozumienia tekstu
naukowego, wyrażania swoich myśli na piśmie, znajdowania godnych zaufania
źródeł i odpowiedniego ich wykorzystania (w przypadku naszych studiów wszystko
to dzieje się w języku angielskim). Z mojej perspektywy problem z
wykorzystaniem AI polega na tym, że te umiejętności można zdobyć jedynie przez
ich ćwiczenie. Osoba studencka, która wykorzystała AI na każdym etapie
zdobywania zaliczenia prawdopodobnie po prostu nie wyjdzie z zajęć z zakresem
umiejętności, na których mi zależy.
Wicedyrektorką jestem od bardzo niedawna więc moja perspektywa będzie tu pewnie bliższa pracownicy niż osoby zarządzającej instytucją. Myślę, że jak w każdej sprawie – mamy w związku z rozwojem AI wiele opinii, emocji i obaw. Na pewno są i takie osoby w nauce, które mają przede wszystkim nadzieje, ale wydaje mi się, że w środowisku takim jak nasze przeważają obawy i frustracje związane z poczuciem, że ta nowa technologia utrudnia proces dydaktyczny z powodów, o których wspominam w odpowiedzi na poprzednie pytanie. Martwimy się, że osoby studenckie wykorzystują AI w sposób nieetyczny (składając jako swoje prace pisemne napisane przez AI), że musimy przez to zajmować się pracą detektywistyczną (co zasadniczo nie jest kluczową częścią naszej pracy, a na pewno dla nikogo nie jest ulubioną), że prowadzi to do napięć, konfliktów i żalu na linii osoba wykładająca-osoba studencka. Jeśli chodzi o moją osobistą postawę to, prawdę mówiąc, nie wydaje mi się, żeby zyski z użycia AI przeważały nad stratami w kontekście procesu dydaktycznego. AI może być pomocne w wielu kwestiach technicznych, skrócić czas i zmniejszyć wysiłek potrzebny np. do wyłuskania z tekstu potrzebnych informacji. Ostatecznie uważam jednak, że sam proces analizy i myślenia nie może być outsourcowany. Być może za jakiś czas zarówno możliwości AI jak i nasza relacja z tymi systemami zmienią się na tyle, że będziemy w stanie uważniej rozgraniczyć techniczną pomoc od wyręczania nas w myśleniu w ogóle. To z kolei pozwoli na etyczne i świadome stosowanie tych technologii. Jednak wydaje mi się że na razie trend jest odwrotny – funkcje AI są raczej coraz bardziej integrowane tak, że trudno rozpoznać jakie procesy zachodzą w „czarnych skrzynkach”.
4. Na zakończenie pytanie z Twojej dziedziny nauki. W jaki sposób współczesne AI wkracza do popkultury? Czy, a jeśli tak, to o jakich aspektach i popkulturowych reprezentacjach AI dyskutują badacze i badaczki w Twojej dyscyplinie naukowej? Czy jest jakiś przykład dyskusji o AI w Twojej dyscyplinie naukowej, który ostatnio przykuł Twoją uwagę?
Jednym z obszarów kultury popularnej, którymi zajmuję się naukowo jest science fiction. Oczywiście w tym gatunku roi się od przedstawień AI – w starszych powieściach i filmach zwykle sztuczna inteligencja była przedstawiona jako zagrożenie dla ludzkości – to trop powstania robotów, jak na przykład w serii filmów „Terminator”. W bardziej współczesnej literaturze temat AI najczęściej jest okazją do przemyślenia granic między tym co ludzkie i nieludzkie oraz etycznych zobowiązań wobec wyprodukowanych przez ludzi bytów, które mogłyby osiągnąć samoświadomość. Jak powinny być wtedy traktowane? Czy powinny mieć takie prawa jak ludzie? W ramach dyskusji o AI w science fiction najbardziej interesujące wydają mi się kwestie uczuć, płci i seksualnością (zgodnie zresztą z ogólną trajektorią moich zainteresowań naukowych). Czy AI mogą mieć płeć? Czy fizyczna forma, którą przyjmują ma na to wpływ? Za jedną z najciekawszych nowych książek podejmujących te temat uważam „Autonomous” Annalee Newitz, która bywa czytana jako metafora transpłciowości, krytyka korporacji i rozważania na temat granic wolnej woli. To ekscytująca powieść akcji, w której piratki walczą z farmaceutycznymi korporacjami a przeznaczony do walki robot nawiązuje relację ze swoim ludzkim partnerem (tu wątek polski – partner ma na imię Eliasz). Chociaż większość AI przedstawionych w sf nie ma wiele wspólnego z Chatem GPT (jego wpływ na rzeczywistość, choć ogromny, jest jednak w dużej mierze niewidoczny w przestrzeni publicznej), moim zdaniem takie książki są znakomitą okazją aby zmierzyć się z pytaniami o to co to znaczy myśleć i na ile myślenie ludzkie różni się od nieludzkiego.
Dr Anna Kurowicka, z-czyni dyrektora Ośrodka Studiów Amerykańskich na Uniwersytecie Warszawskim. Jej praca naukowa skupia się na zagadnieniach płci, seksualności oraz kultury popularnej. Prowadząca świetny podcast „Oswoić gender”.EN
The interview conducted by Karolina Kulicka
1. Is AI entering the university classroom?
AI applications, the opportunities and especially the dangers that come with them have become a topic of conversation at my Center since the public release of Chat GPT. Right now we are dealing with AI applications in two dimensions. The University offers training on how to use such tools for teaching purposes - so we think about the benefits of AI. However, the most frequent contact with AI applications takes place in much less optimistic circumstances - in situations when students give us papers partially or fully written by AI.
2. In what areas will it be difficult for AI applications to replace academic professors? What is important for the quality of the academic teaching process and the relationship between students and professors? What is reserved for humans and not even the most intelligent technology?
I teach in the American Studies program, which involves mainly cultural studies (with elements of history, political science, sociology and
other related disciplines). My main goal in my classes is to get students to
think critically about the world around them (which can also include watching
TV series and it's not as bleak as it seems!). This overarching goal dictates classroom
activities and coursework assessment methods. These include classroom
discussions of popular culture and scientific texts, group work, and, at the
end of the semester, usually a written work that should meet the requirements
of a scientific paper. It means it should contain the author's thesis and
arguments supporting this thesis, based on documented sources. Probably any
person who is even a little familiar with the capabilities of AI can
immediately see that many steps in this process can be facilitated or even done entirely by AI. AI can summarize a scientific text and provide notes for the class. It can suggest sources useful for writing
an exam paper (although sometimes it's non-existent bibliography), and finally
it can write a final essay.
The point is, however, that the purpose of studying is not really to sum up in
points what Foucault wrote in “The History of Sexuality” or to create an essay
analyzing “Sex Education” series. These are merely the means to the actual goal
of acquiring the skills of critical thinking, understanding a scientific text,
expressing one's thoughts in writing, finding trustworthy sources and using
them appropriately (all of that in English at our Department). From my
perspective, these skills can only be
acquired by practicing them. A student who has used AI at every stage of
earning course credits is unlikely to complete the program with the range of
skills I care about.
I've been a deputy director for a very short time so my perspective here will probably be closer to that of an employee than of a person managing an institution. I think that as with any issue, we have a lot of opinions, emotions and concerns in connection with the development of AI. There are certainly some people who are primarily hopeful. However, to me it seems that in an environment like ours, the prevailing concerns and frustrations are related to the feeling that this new technology is hindering the teaching process for the reasons I mention in my answer above . We worry that students are using AI unethically (submitting AI-written papers as their own) and that we must do detective work because of it (which is generally not a key part of our work, and certainly not anyone's favorite). This all leads to tension, conflict and disappointment between students and lecturers. As for my personal stance, to be honest I don't think the gains from using AI outweigh the losses in terms of the teaching process. AI can help with many technical issues, reduce the time and effort required, for example, to extract the necessary information from a text, but ultimately I believe that the analysis and thinking process itself cannot be outsourced.
Perhaps some time from now, both the
capabilities of AI and our relationship with these systems will have changed
enough that we will be able to more carefully delineate between technical
assistance and thinking in general. This, in turn, will allow for
ethical and informed use of these technologies. For now, the trend seems to be opposite.
AI functions are becoming more and more integrated so that it is difficult to
discern what processes are taking place in the AI black boxes.
One of the areas of popular culture that I focus on is science fiction. This genre is obviously rife with depictions of AI. In older novels and films, artificial intelligence was usually portrayed as a threat to humanity - a theme of the robots’ uprising, like in “Terminator” movie series. In more contemporary literature, the topic of AI is most often an opportunity to rethink the boundaries between what is human and what is inhuman, and the ethical obligations to human-made entities that could achieve self-awareness. How should they then be treated? Should they have the same rights as humans? Within the discussion of AI in science fiction, I find the issues of sentience, gender and sexuality the most interesting (which is in line with keeping with the general trajectory of my scientific interests). Can AIs have gender? Does the physical form they take affect this? I consider “Autonomous” by Annalee Newitz to be one of the most interesting new books addressing these issues. The book reads as a metaphor for trans issues, a critique of corporations and a consideration of the limits of free will. It's an exciting action novel, in which female pirates battle pharmaceutical corporations and a robot destined for battle establishes a relationship with its human partner (a Polish reference - the partner's name is Eliasz). Although most of the AI depicted in sf has little to do with Chat GPT (its impact on reality, while huge, is nevertheless largely invisible in the public space), in my opinion such books are an excellent opportunity to grapple with questions about what it means to think and how much human thinking differs from non-human thinking.
Dr Anna Kurowicka, associate director of the American Studies Center at the University of Warsaw. Her academic work focuses on gender, sexuality and popular culture. She hosts the excellent podcast “Taming Gender.”