ADD? Kim jesteśmy | Who we are
Co w Twoim doświadczeniu zmobilizowało Cię do założenia ADD?
Karolina: ADD to dla mnie możliwość realizacji fajnych projektów, w które wierzę, w sposób, który uważam za skuteczny. Z ludźmi, firmami, organizacjami nastawionymi na rozwój. Lubię to uczucie, gdy w wyniku przemyślanego, mądrego zarządzania coś zaczyna działać, projekt się udaje, pojawia się nowa wartość. Chcę, by nasi klienci/tki i partnerzy/rki jak najczęściej doświadczali tego uczucia. Badania naukowe pokazują, że fundamentem skutecznego zarządzania – czy to organizacją, czy projektem informatycznym – są w sumie najprostsze, najbardziej podstawowe czynniki: słuchanie, gromadzenie różnorodnych perspektyw, skupienie na potrzebach ludzi oraz partnerskie, równościowe, oparte na szacunku traktowanie współpracowników. Najlepsze procedury i najbardziej zrobotyzowane procesy na niewiele się zdadzą, jeśli pracownicy nie będą zmotywowani, nie będą lubili swoich szefowych i szefów. W ramach ADD chcę pomagać firmom i organizacjom działać skutecznie, w oparciu o te wartości. Chcę dzielić się i praktycznie wykorzystywać wiedzę - tę naukową i tę praktyczną - o organizacjach, przywództwie i zarządzaniu, którą zdobyłam podczas studiów doktoranckich w USA i poprzez własne doświadczenia udanych wdrożeń i projektów.
Na jakich wartościach opierasz ADD?
Klaudia: Najważniejsza jest dla mnie jakość: usług i współpracy. Chcę by wszystkie nasze usługi, czy to szkolenia czy konsulting, było dobrze przygotowane, poparte wiedzą, badaniami, szczegółową analizą różnych przypadków, w tym dobrymi i złymi praktykami. Jakościowa usługa to dla mnie ta, która odpowiada na potrzeby i w nie chcę szczególnie się wsłuchiwać i je realizować. Z kolei we współpracy jakość oznacza dla mnie partnerstwo, zaufanie, dbałość obu stron o cel jaki nam przyświeca, podążanie za nim. Ale też bardziej przyziemne sprawy związane z dobrą komunikacją - przystępnością. Równie ważna jest też dla mnie dostępność i otwartość. Bardzo chcę żebyśmy wychodzili z naszymi usługami i doświadczeniem do mniejszych miast, organizacji, firm. Chcę byśmy realizowały misję naszej firmy, ale też demokratyzowały dyskusję o AI.
Kiedy i dlaczego zainteresowałaś się AI?
Karolina: Jeśli chodzi o samą sztuczną inteligencję, to moje zainteresowanie tym tematem zaczęło się w USA, gdy pracowałam naukowo na Uniwersytecie Stanowym w Nowym Jorku. Okazało się, że produkty wykorzystujące AI często nie udają się wcale nie ze względu na wyzwania technologiczne tylko z powodu niereprezentatywnych danych treningowych, zbyt jednorodnych zespołów projektowych czy testowania produktów na mało zróżnicowanych populacjach. Głośnym przykładem nieudanego wdrożenia był program COMPAS, używany w systemie sądowniczym stanu Floryda m.in. do oceny ryzyka recydywizmu, który okazał się być rażąco stronniczy ze względu na kolor skóry. I ja, i wiele osób interesujących się nowoczesnymi technologiami było też poruszonych śmiertelnym wypadkiem, w którym czarnoskóra mieszkanka stanu Arizona została potrącona przez samochód autonomiczny. To zdarzenie drastycznie pokazało problem tzw. dyskryminacji algorytmicznej, czyli gorszego działania technologii wizyjnych, biometrycznych, na populacjach mniejszościowych. Jako naukowczyni i specjalistka w obszarze gender studies, zostałam poproszona o stworzenie koncepcji kursu akademickiego pn. Class, Race and Gender Bias in AI and Machine Learning dla studentek i studentów informatyki. Kurs był zaprojektowany, by dawać developerom AI praktyczną wiedzę socjologiczną pozwalającą eliminować ryzyko tzw. stronniczych algorytmów przy wykorzystywaniu danych treningowych i samego trenowania modeli. Moimi mentorkami w zakresie interdyscyplinarnego, prospołecznego i inkluzywnego podejścia do nowych technologii były prof. Ewa Ziarek , prof. Gwynn Thomas i prof. Martha McCluskey.
Po powrocie do Polski kierowałam wdrożeniami systemów informatycznych w dużych organizacjach i widziałam, jak dużo wartości i uwolnionego czasu na zadania o wyższej wartości przynieść może przynieść automatyzacja i robotyzacja procesów. Sama na co dzień korzystam z technologii AI, zarówno w swojej pracy naukowej jak i biznesowej. Dlatego w ramach ADD chcę promować odpowiedzialne i przemyślane wdrażanie nowoczesnych technologii w administracji publicznej, biznesie czy organizacjach trzeciego sektora.
Jakie aspekty AI interesują Cię najbardziej w kontekście współpracy z naszymi klientkami/ami?
Klaudia: Zastosowanie tu i teraz! Najbardziej interesują mnie dynamiczne, narzędziowe warsztaty dla różnych grup. Lubię najpierw poznawać zadania ludzi - te najbardziej żmudne - i proponować rozwiązania wspierające ich pracę oparte o AI dostępne na rynku. Sięgam do swoich własnych doświadczeń w pracy urzędniczej sprzed lat i już teraz wiem z jakich narzędzi bym korzystała. Z drugiej strony, podczas takich warsztatów zdarza nam się odkrywać błędy, halucynacje czy “AI bullshit” czyli kiedy wspaniała obietnica automatyzacji procesu daje jednak bardzo słaby efekt. Lubię momenty kiedy za efektem “wow” idzie jednak twórcza refleksja oraz wspólne sugerowanie co można zrobić by ten efekt, proces, produkt poprawić. A to najlepiej robią ludzie, a nie sztuczna inteligencja. Wszystkie te elementy osobistego doświadczania czym jest AI, czym może być, jakie są szanse i zagrożenia to najbardziej interesujące mnie aspekty współpracy z klient(k)ami. Z drugiej strony chciałabym by chęć skrócenia, uproszczenia niektórych procesów np w administracji publicznej nie zawsze prowadziła do poszukiwania technologii AI i automatyzacji. We współpracy z klient(k)ami chciałabym zastanawiać się, które zadania są niezbędne, z których można zrezygnować, które można robić inaczej - bez angażowania technologii, ale we współpracy z ludźmi, z organizacjami pozarządowymi. Tam kryją się najlepsze pomysły, satysfakcja i energia do działania. W ADD nazwaliśmy to w naszej misji: chcemy oferować rozwiązania, a nie technologię.
Co odróżnia ADD od innych firm na rynku, które zajmują się AI?
Karolina: Coolness factor:) ADD to zwinna, nowoczesna, innowacyjna firma, która wywiązuje się z postawionych przed nią zadań. Obie czerpiemy z naszych doświadczeń z udanych projektów w administracji publicznej, sektora biznesu i nauki, z Polski, Europy, USA - ADD to też działalność pozazarobkowa - sposób na łączenie ludzi zaangażowanych w różnorodne działania naukowe, publiczne, aktywistyczne, różnorodnych perspektyw i punktów widzenia.
W obszarze AI, inspiracją dla ADD są badania i praca aktywistyczna Cathy O’Neill i Joy Buolamwini z MIT, założycielki Algorithmic Justice League. W naszej pracy szkoleniowej i konsultingowej chcę analizować AI i wpływ tej technologii na organizacje i na świat przez pryzmat całości “życia produktu.” Poruszającym przykładem takiej perspektywy jest praca artystyczna Anatomy of an AI System autorstwa Kate Crawford i Vladan Joler którą kilka lat temu zobaczyłam na wystawie w muzeum MoMa i która uczy patrzeć szeroko na proces powstawania produktu opartego na AI jako na proces społeczny i ekonomiczny.
Wielką inspiracją dla mnie jeśli chodzi o inkluzywne projektowanie procedur, technologii i produktów jest praca naukowa dr Natalii Pamuły z Uniwersytetu Warszawskiego, na gruncie studiów o niepełnosprawności i krytyki ableistycznych paradygmatów myślenia, działania, projektowania usług publicznych.
Jaki jest Twój sprawdzony przepis na niezapomniane szkolenie i rolę trenerki?
Klaudia: Niezapomniane szkolenie to takie, które jest poprzedzone konkretną potrzebą, a po jego zakończeniu można sobie powiedzieć “uff, wiem”, albo “nie boję się już tej tematyki” albo “wiem kogo zapytać”, “wiem gdzie szukać odpowiedzi”. To może nie być natychmiastowy efekt, ale z mojego doświadczenia wynika, że właśnie takich szkoleń się nie zapomina. Jestem bardzo skupiona na procesie uczenia się poprzez doświadczanie i wymiany opinii. Uważam, że “nikt z nas nie wie, ile wiemy wszyscy razem” i ma to wielkie znaczenie kiedy prowadzę szkolenia czy facylitacje wśród osób dorosłych. Lubię wplatać w szkolenia nieoczywiste metody, w tym Lego(R) Serious Play. W tej metodzie przedstawia się swoje pomysły i rozwiązania na dany temat w postaci metafory, budowli z klocków Lego. W takich rolach czuję się najlepiej - różnorodnych, w doświadczaniu pozornie odległej technologii, ale też biznesowych historii opowiadanych z wykorzystaniem całkiem realnych, kolorowych klocków.
Dlaczego Twoim zdaniem urzędy, nauka, firmy, powinny zająć się zastosowaniem AI w swojej aktywności?
Karolina: Organizacje na pewno powinny szkolić się i śledzić rozwój technologii AI, żeby móc świadomie zdecydować, czy to coś dla nich. Spektakularnym przykładem wartości, jaką może wnieść technologia AI, jest program Alphafold firmy Deepmind, który przewiduje trójwymiarową strukturę białka - problem naukowy, nad którym pracowało latami dziesiątki tysięcy naukowców na świecie. Pierwsze wdrożenia pokazują, że technologie AI mogą realnie oszczędzić czas pracowników, pomóc w pracy analitycznej i kreatywnej, w poszukiwaniu informacji, komunikacji z klientami i automatyzacji procesów. Jako ADD chcę asystować tylko przy takich projektach, które przynoszą realną wartość. Nie interesują mnie wdrożenia dla samego wdrożenia, żeby móc pochwalić się - my używamy AI. Efektowne demo kolejnych super aplikacji często zapierają dech w piersiach, ale zawsze w naszej firmie przyglądamy się, jaka będzie realna wartość z ich użycia w stosunku do kosztów, nakładu pracy i ryzyk, które te technologie też generują. Mimo iż działamy w obszarze nowych technologii, nie chcę podgrzewać „hype-u” na AI. Wręcz przeciwnie, chcę, by ADD poddawało AI stałej krytycznej refleksji - wpływie tej technologii na środowisko, zasoby naturalne, globalne rozwarstwienie ekonomiczne, wyzysk ekonomiczny i grupy nieuprzywilejowane – kobiety, osoby starsze, niepełnosprawne, mieszkanki i mieszkańców globalnego południa. Tak samo jak leki, technologie AI muszą być odpowiednio testowane na różnych grupach, zanim zostaną dopuszczone do użytku publicznego. Zastosowane odpowiednio - mogą podnieść jakość działania organizacji.
Autorki: Karolina Kulicka i Klaudia Wojciechowska
EN
What in your experience motivated you to start ADD?
Karolina: ADD is for me an opportunity to do projects that I believe in, in a way that I think is effective, with people, companies, organizations which I like, admire and that care about growth and development. I like the feeling when, as a result of thoughtful, smart management, something starts to work, a project succeeds, new value emerges. I want our clients/partners to experience this feeling as often as possible. Research shows that the foundations of successful management - whether of an organization or an IT project - are, on the whole, the simplest, most basic factors: the ability to listen, gathering diverse perspectives, focusing on people's needs, treating co-workers with respect and in an egalitarian manner. The best procedures and the most automated processes are of little use if employees are not motivated and do not like their bosses. At ADD, I want to help companies and organizations operate effectively, funding their operations on equality, diversity, inclusion and respect. I want to share and practically apply the knowledge about organizations, leadership and management that I gained during my doctoral studies in the US and through my own experience with successful implementations of projects.
What values do you base ADD on?
Klaudia: The most important thing for me is quality: of services and cooperation. I want all our services, whether it’s training or consulting, to be well prepared, supported by evidence, research and detailed analysis of various cases, good and bad practices. For me, a high quality service is one that responds to actual people’s needs. I want to tune into those needs, listen to them and act upon them. High quality cooperation, on the other hand, means for me partnership, trust, and attention to the goals of all parties. But also more down-to-earth matters related to good communication, such as its clarity and accessibility. I really want us to reach with our services and experience smaller cities, organizations, and companies. I want us to democratize the discussion about AI.
When and why did you become interested in AI?
Karolina: My interest in AI began in the US, when I was doing my doctoral degree at the State University of New York. There was a lot of news at that time about AI products failing not because of technological issues but because of unrepresentative training data, overly homogeneous project teams or testing products on populations that were not diverse enough. A notorious example of a failed implementation of an AI program was COMPAS, an algorithm used in the Florida state court system to assess recidivism risk, among other things. The program turned out to be grossly biased against black population. I, and many people interested in modern technology development, were also moved by a fatal accident in which a black resident of the state of Arizona was hit by an autonomous car. This incident dramatically demonstrated the problem of the so-called algorithmic discrimination: the inferior performance of vision-based and biometric technologies on minority populations. As a researcher and a specialist in gender studies, I was asked to design an academic course titled Class, Race and Gender Bias in AI and Machine Learning for computer science students that would equip them with practical knowledge about algorithmic bias. My mentors in interdisciplinary, pro-social and inclusive approaches to new technologies were prof. Ewa Ziarek, prof. Gwynn Thomas and prof. Martha McCluskey.
After returning to Poland, I continued my engagement with new technologies. I was responsible for the implementation of IT systems in a large organization and saw first-hand how much value and time for higher-value tasks can be brought by automation and robotization of processes. I myself use AI technologies on a daily basis, both in my research and business work. At ADD, I want to promote responsible and thoughtful implementation of modern technologies in public administration, business and non-governmental organizations.
What aspects of AI interest you the most in terms of cooperation with our clients?
Klaudia: Practical application of AI here and now! I am most interested in dynamic, hands-on workshops for various groups, focused on concrete AI tools. I like to learn about people's tasks first - the most tedious ones - and propose AI-based solutions that can support their work. I reach back to my own experience as a civil servant doing administrative work from years ago, and I already know which AI tools I would use now. On the other hand, during workshops we also discover mistakes, hallucinations or “AI bullshit” - when the AI-supported process of automation yields poor results. I like it when “wow” moments are followed by creative and critical reflection about what can be done to improve the AI implementation process, create better products. And this is best done by people, not artificial intelligence. Questions about what AI is, what it can be, what its opportunities and risks are, interest me the most. On the other hand, streamlining processes, e.g. in public administration, does not always require AI technology and automation but their better organizational design. I find this essential to accompany the clients in thinking about which tasks are necessary, which can be abandoned, which can be done differently - not necessarily with new technology but through cooperation with people, with NGOs, activists, researchers. That's where the best ideas and the best energy is. Hence ADD’s mission: we offer solutions, not technology.
What sets ADD apart from other companies that work on and with AI?
Karolina: Our coolness factor:) ADD is an agile, modern, innovative company that delivers on the tasks set before it. We both draw from our rich experience in public administration, business and science sectors, in Poland, Europe, and the USA. ADD is also our nonprofit activity and a way to bring together people involved in various scientific, public, activist activities, connect diverse perspectives and points of view.
In the area of AI, ADD is inspired by the research and activist work of Cathy O'Neill and Joy Buolamwini of MIT, a founder of the Algorithmic Justice League. In our training and consulting work, I want to analyze AI and the impact of this technology on organizations and the world through the lens of the entire “product lifecycle.” A moving example of this perspective is the artwork Anatomy of an AI System by Kate Crawford and Vladan Joler which I saw in an exhibition at the MoMa museum a few years ago, and which teaches one to look at the process of creating an AI-based product as a complex social and economic process.
A great inspiration for me when it comes to inclusive design of procedures, technologies and products is the academic work of dr Natalia Pamuła from the University of Warsaw, rooted in disability studies and the criticism of ableist paradigms of thinking, acting, and designing public services.
What is your proven recipe for a memorable workshop and your role as a trainer?
Klaudia: An unforgettable training is one that responds to an actual need. At athe end of it participants say “ Oh, I know now”, “I am no longer afraid of this” or “I know who to ask, where to look for answers.” It may not be an immediate effect, but in my experience, it's training like this that you don't forget. I am very focused on experiential learning and exchange of opinions. I believe that “none of us knows as much as we all know together.” I like to weave non-obvious methods into training, such as Lego(R) Serious Play. In this method, each individual presents ideas, values and solutions to a topic in the form of a metaphor: as a brick structure. This exactly describes roles I feel most comfortable. I love diversity and enjoy both experiencing and explaining seemingly distant and difficult technology and telling business stories using real, colorful bricks.
Why do you think public offices, scientific institutions, businesses, should look into applying AI to their activities?
Karolina: Organizations should certainly educate themselves and observe the development of AI technology so they can make an informed decision on whether it's something for them. A spectacular example of the value AI technology can bring is Deepmind's Alphafold program, which predicts the three-dimensional structure of a protein - a scientific problem that tens of thousands of scientists around the world have been working on for years. The first implementations show that AI technologies can save employees' time, help with analytical and creative work, information retrieval, customer communication and process automation.
ADD assists with projects that bring real value. I'm not interested in AI implementations for implementation's sake, just to brag - oh, we use AI. Tech demos of new AI apps are often quite breathtaking, but we always look carefully at the real value they can bring to a company, in relation to its cost, issues of data protection, implementation effort and risks that these technologies also generate. Although we operate in the area of new technologies, I don't want to heat up the “hype” for AI. On the contrary, I want ADD to subject AI to constant critical reflection - the impact of this technology on the environment, natural resources, enlarging global economic gaps, exploitation and rights of underprivileged groups - women, the elderly, the disabled, residents of the global south.
Like medicines, AI technologies must be properly tested on diverse users before they are approved for public use. Applied appropriately - they can enhance the quality of an organization's operations.