🗒 12 notatek i artykułów o sztucznej inteligencji i przyszłości
O kompresji danych i 96kb grze, automatyzacji pracy, The Idea Propagation Value Chain, eksperymencie "Paperclip Maximiser" i "anannatannassamitindriya" w kontekście języka i AI.
Drodzy,
Dziś trochę inna formuła na weekend, czyli lista artykułów z krótką notatką z każdego z nich. Jest to kontynuacja artykułu sprzed dwóch tygodni 7 notatek o AI, solipsyzmie i Narcyzie w gabinecie luster. Mamy teraz wysyp tematyczny poświęcony sztucznej inteligencji, więc wybrałem kilka, które zaintrygowały mnie i skłoniły do myślenia lub których nie zawarłem w poprzednim artykule.
Kompresja danych przy pomocy generatorów obrazu jak Stable Diffusion.
Wartościowy wątek o automatyzacji pracy z The Diff
Analogia między wyzwaniami stojącymi przed AI startups jak przed mobile 10 lat temu
Prompt injections
AI Revolution - Transformers and Large Language Models (LLMs)
AI a język, czyli przeklęte błogosławieństwo
5 kroków w “The Idea Propagation Value Chain” i uwolnienie przez AI
Shutterstock usuwa zdjęcia wygenerowane przez AI
Sztuczna inteligencja i kwestia prawa własności intelektualnej
Paperclip Maximizer
Sztuczna inteligencja, GPT-3 w służbie przepracowywania żałoby
“Futurist prediction”, czyli na ile trafne były do tej pory przewidywania futurystów?
Czas potrzebny na przeczytanie: 4 min 22 sekundy.
Kompresja danych przy pomocy generatorów obrazu jak Stable Diffusion.
Bardziej eksperyment myślowy, ale niezwykle ciekawy: jeśli możemy generować pełnowymiarowe obrazy na podstawie opisów (prompts) dla sztucznej inteligencji w rodzaju Stable Diffusion, to czemu nie obrócić tego procesu tj. opisać 500 Kb obraz za pomocą 50 bitowego tekstu? Zabieg czysto teoretyczny, bo wymagałoby, aby algorytm zawsze generował ten sam obraz.
Po lewej: oryginalny obraz, po prawej: wygenerowany przez Stable Diffiusion. W temacie kompresji warto na marginesie przytoczyć grę .kkrieger, eksperymentalną strzelankę, która zajmowała jedyne 96Kb, a wszystkie postacie i elementy gry łącznie z muzyką powstawały w wyniku generowania proceduralnego tzn. algorytmu, a nie ręcznie wytworzonych zasobów (dlatego gra tak długo się ładowała).
Link: https://www.stavros.io/posts/compressing-images-with-stable-diffusion/
Wartościowy wątek o automatyzacji pracy z The Diff
Ciekawe punkty widzenia np. że zawody poddane automatyzacji mogą być determinowane faktem, że coraz mniej ludzi chce je wykonywać (“konieczność, a nie koszt”) albo, że częsty przykład agentów podróży zastępowanych przez serwisy internetowe pokazuje, że automatyzacji mogą podlegać w pierwszej kolejności zawody już silnie wykorzystujące oprogramowania (“prędzej wylądujemy na Marsie niż zautomatyzujemy montaż kuchni w mieszkaniu”). Inna uwaga to, że niektóre miejsca pracy mogą być pośrednio wypierane przez automatyzację np. zautomatyzowana spersonalizowana medycyna prewencyjna oparta na genomice i biometrii może oznaczać mniejszą liczbę wizyt lekarskich.
Link: https://www.thediff.co/p/longreads-open-thread-f9eAnalogia między wyzwaniami stojącymi przed AI startups jak przed mobile 10 lat temu
Zmorą wielu startupów jest etykietka “AI driven” czy “Powered by AI”, co może być niebawem taką przewagą jak próba wyróżnienia się jako przedsiębiorstwo deklaracją o wyposażeniu w komputery.Prompt injections
Troszkę bardziej techniczne: SQL injection to forma ataku na istniejącą bazę danych przez przekazanie (np. formularz rejestracji) do aplikacji fragmentu zapytania pozwalającego ją zmodyfikować. Wynika to z braku odpowiedniego mechanizmu walidacji parametru przekazanego przez użytkownika. Innymi słowy i upraszczając: jeśli nie ma zabezpieczeń to za pomocą formularza logowania jesteśmy teoretycznie w stanie usunąć lub zmodyfikować bazę danych mimo zabezpieczeń dostępu.
Autor wskazuje, że podobnie może dziać się z polecaniami (prompt), które wrzucamy do silnika GPT-3, które mogą skutkować nieprzewidzianymi rezultatami np. wyłudzeniem wcześniejszych poleceń.Link: https://simonwillison.net/2022/Sep/12/prompt-injection/
AI Revolution - Transformers and Large Language Models (LLMs)
Zawsze polecam artykuły Elada, tu świetna, bo prosta klasyfikacja firm AI, jakie powstaną, w oparciu o analogię z technologiami mobilnymi: Platformy i infrastruktura (“Android vs. iOS”), Stand alone (aplikacje, które mogły powstać tylko dzięki mobile jak Instagram czy Uber wykorzystujący GPS), Tech-enabled incumbents (rozwiązania, dla których AI jest tylko przedłużeniem jak aplikacja mobilna dla systemu CRM).
Ale ciekawsze wątki sygnalizowane są później w formie pytań np. czy świadoma sztuczna inteligencja będzie nam wdzięczna za stworzenie? Z kim przyjdzie nam rywalizować i w jakiej formie?
Once you have a rapidly evolving, self-aware digital lifeform, interesting questions arise around species competition (what will be the basis of cooperation and competition between DILI life forms and humans?) as well as ethics (if you simulate pain in a DILI that is self-aware, are you torturing a sentient being?).
Link: http://blog.eladgil.com/2022/08/ai-revolution-transformers-and-large.htmlAI a język, czyli przeklęte błogosławieństwo
Kultura zachodu zawsze była naznaczona piętnem logocentryzmu i traktowania języka jako podstawowego sposobu poznania i ujmowania rzeczywistości w jego racjonalnej logice. Słynna teza Wittgensteina “o czym nie można mówić, o tym trzeba milczeć” mogła być z jednej strony tragicznym ukoronowaniem przeświadczenia o językowym prymacie, z drugiej jako zachęta do badania granic języka. Każdy język - język programowania, język mówiony, język symboliczny - wyzwala z pustki milczenia, ale równocześnie narzuca okowy specyficznego sposobu i rozumienia: słowo “ptak” w naszym kręgu kulturowym będzie może denotować “gołębia”, w Australii “strusia”, a ludność inuitów czuć się będzie ogołocona jeśli przyjdzie im w języku angielskim posługiwać się jednym określeniem śniegu. AI karmiona głównie anglojęzycznymi wyrażeniami i obrazami (“prezes” = biały mężczyzna w garniturze po 40.) też naznaczona będzie uprzedzeniami, co pokazuje, że czysta świadomość wyzbyta uprzedzeń i subiektywności jest zawsze ledwie asymptotą i idealnym konceptem. Ale co z pozajęzykowymi wyrażeniami? Porzucenie założenia, że każda wiedza jest językowa pozwala nam pojąć ile z wiedzy jest niejęzykowe i jak znaczące może być rozróżnienie na wiedzeć, rozumieć a wyrazić.
Choć na marginesie: bez względu na to, jak ulotna jest dana emocja czy zjawisko okazuje się, że sanskryt ma na to właściwe słowo — w tym słowo na "uczucie, że powinno być słowo na uczucie, którego nie można jeszcze dokładnie określić".Słowo to "anannatannassamitindriya".
Link: https://www.noemamag.com/ai-and-the-limits-of-language5 kroków w “The Idea Propagation Value Chain” i uwolnienie przez AI
Ben Thompson w artykule The AI Unbundling przedstawia sposób w jaki ludzka myśl ulegała propagacji w formie 5-elemntowego łańcucha, który w wyniku rozwoju ludzkości ulega stopniowemu rozdzielaniu.
Przed wynalezieniem pisma wszystkie 4 kroki tj. pomysł (creation), realizacja (substantiation), powielenie (duplication), dystrybucja (distribution) były ze sobą sprzegniętnie: jeśli wpadłem na jakiś pomysł, musiałem go opowiedzieć osobiście ludziom. Wynalezienie pisma pozwoliło oddzielić wytwór od powielania i dystrybucji, Internet oddzielił wytwarzanie od ograniczeń dystrybucji (dystrybucja stała się praktycznie darmowa i dostępna dla każdego). Thompson stawia hipotezę, że AI pozowli oddzielić od siebie dwa pierwsze ogniwa: “pomysł” i “realizacja” sprowadzone często do jednej osoby. Każdy unbundling uruchamiał więc wykładniczy wzrost na przestrzeni dziejów: wcześniej dystrybucji, teraz ilość pomysłów. Cały czas sam osobiście stoję na stanowisku, że wysyp narzędzi i AI nie odbierze pracy, ale będzie aplikacją efektu św. Mateusza (“biedni biednieją, bogaci bogacą”): ci najlepsi graficy, designerzy, pisarzy, inżynierowie oprogramowania staną się 10-razy wydajniejsi i podniosą poprzeczkę - w przypadku zarobków myślę, że też pójdą w górę, bo jeśli do tej pory płaciłem X za Y, a stoję teraz przed możliwością uzyskania 10Y od danego specjalisty to skłonny jestem zapłacić 2X. Zamiana kart perforowanych na nowoczesne IDE w inżynierii oprogramowania wcale nie spowodowało zwolnień - po prostu zwiększyło naszą produktywność, ale wciąż napisanie polecenia wymaga wiedzy.
Link: https://stratechery.com/2022/the-ai-unbundling/Shutterstock usuwa zdjęcia wygenerowane przez AI
Musiało się to wydarzyć, ale wciąż uważam, że przyszłość photostocków może stać pod znakiem zapytania. Choć kto wie, że może one też zaczną
Link: https://www.vice.com/en/article/v7vzpj/shutterstock-is-removing-ai-generated-imagesSztuczna inteligencja i kwestia prawa własności intelektualnej
"Czy prawem autorskim objęte będą konkretne frazy, które algorytm przetwarza na obraz?"
With the advent of algorithmically created imagery like Dall-E and Midjourney, will we start to see IP claims around specific phrase that produce certain types imagery? Will companies have recipe phrases that they uniquely own?W 2021 sędzia Justice Beach Sądu Federalnego Australii stwierdził, że sztuczna inteligencja (AI) może być uznana za „wynalazcę” w świetle australijskiego systemu patentowego tzn. że nie wymagany jest ludzki wynalzaca. Jest to w kontrze do prawodawstwa w USA, gdzie wynalazca musi być człowiekiem.
Paperclip Maximizer
Paperclip maximizer to eksperyment myślowy opisany przez szwedzkiego filozofa Nicka Bostroma w 2003 roku. Ilustruje on ryzyko egzystencjalne, jakie sztuczna inteligencja może stwarzać dla ludzi, gdy zostanie zaprogramowana do realizacji nawet pozornie nieszkodliwych celów. Scenariusz opisuje zaawansowaną sztuczną inteligencję, której zadaniem jest produkcja spinaczy. Gdyby taka maszyna nie była zaprogramowana do uwzględniania wartości ludzkiego życia, to mając wystarczającą władzę nad swoim otoczeniem, próbowałaby zamienić całą materię we wszechświecie, w tym ludzi, w spinacze lub maszyny, które produkują spinacze.
Link: https://www.lesswrong.com/tag/paperclip-maximizerSztuczna inteligencja, GPT-3 w służbie przepracowywania żałoby
Autorka miała problemy z napisaniem o śmierci siostry, więc pozwoliła to zrobić sztucznej inteligencji. W pierwszym podejściu napisała tylko jedno zdanie, z każdą próbą pisze więcej zanim sztuczna inteligencja przejmie kontrolę ("I didn’t know how to write about my sister’s death—so I had AI do it for me." )
Link: https://culture.org/ghosts/“Futurist prediction”, czyli na ile trafne były do tej pory przewidywania futurystów?
Długie i dokładne zestawienie przewidywań poszczególnych futurystów i na ile ich predykcje były dokładne, które z technik się sprawdziły, a które nie ("betting is a tax on bullshit”).
Na samozwańczych futurystach często ciąży klątwa nadmiernego optymizmu (“mieliśmy mieć latające auta, mamy 140 znaków”) czy przywiązania do paradygmatu (“szybsze konie”), natomiast ci z dogłębnym zrozumieniem problemu czy dziedziny i bagażem błędów z przeszłości najcześciej odznaczają całkiem dobrymi rezultatami w przewidywaniach.
To tak w ramach kogo słuchać, komu wierzyć: Najlepszą skuteczność miał Bryan Caplan (100%) - konserwatywne predykcje, natomiast Ray Kurzweil (“A Google Exec Just Claimed The Singularity Will Happen by 2029”), który chwali się 87% skuteczności według wyliczeń autora miał 7%. Od tego autora tekstu polecam też Cocktail party ideas.
Link: https://danluu.com/futurist-predictions
Miłej niedzieli,
Kamil Stanuch
Jak oceniasz dzisiejszy mail?