Rob Lucas, Unlearning Machines – Sidovagn

By | February 3, 2024

Det går inte att förneka de tekniska underverk som har blivit resultatet av tillämpningen av transformatorer i maskininlärning. De representerar en radikal förändring i en linje av teknisk forskning som har tillbringat större delen av sin historia med att framstå som positivt vilseledd, åtminstone för sina mest nyktra initierade. Till vänster misslyckas den kritiska reflexen att se detta som ännu en nyliberal skruv, eller att peka på utvinningen av arbetskraft och resurser som upprätthåller det, lite inför en maskin som äntligen kan tolka naturen. språkinstruktioner producerar ganska exakt och flytande text och bilder som svar. För inte så länge sedan verkade dessa saker omöjliga. Det lämpliga svaret på dessa under är inte förakt utan rädsla, och kanske är det där vi ska börja, för denna magi är överväldigande koncentrerad i händerna på ett fåtal, ofta egenartade, människor på den sociala toppen av en världsmakt. Uppenbarligen skulle det vara oklokt att lita på sådana människor med mänsklighetens reifierade intelligens i stort, men det är där vi är.

Här i Storbritannien förespråkar teknikberoende universitetsledare för närvarande för överansträngd lärarpersonal att vända sig till generativ AI för produktion av läromedel. Mer än hälften av studenterna använder redan samma teknik för att hjälpa dem att skriva uppsatser, och flera AI-plattformar testas för automatisering av betyg. Om man drar den till sin logiska slutsats skulle denna utveckling motsvara en omställning av utbildningssystemet som en utbildningsprocess för privatägda maskininlärningsmodeller: studenter, lärare, professorer, alla omvandlade till ett slags utlagd administratör eller tekniker, som tjänar lärandet av en “intelligens” inlåst i en svart låda som inte tillhör dem. Eftersom det inte finns något känt sätt att förhindra att stora språkmodeller “hallucinerar” (väver in lögner och absurditeter i deras produktion, på sätt som kan vara svåra att upptäcka om man inte redan har gjort det relevanta arbetet), minskas de kvarvarande upprätthållarna av intellektuella standarder. till rollen att ge korrigerande feedback till maskinellt nonsens.

Där människor inte utför denna funktion kommer hallucinationer att spridas okontrollerat. Nätverket, som en gång föreställdes, på grundval av CERN, som ett slags idealiserat vetenskapssamhälle, översvämmas redan av statistiska systems prat. Precis som fysiskt avfall skickas till den globala södern för bortskaffande, dumpas digitalt avlopp på världens fattiga: bortom språken med bättre resurser dominerar nu lågkvalitativa maskinöversättningar av lågkvalitativt engelskt innehåll på webben. Detta riskerar naturligtvis att förgifta en av de viktigaste brunnarna som generativa AI-modeller hittills har hämtat, vilket höjer spöket för en degenerativ loop analog med Creutzfeldt-Jakobs sjukdomsproteincykler: inlärning, automatisk blir dess motsats.

Utan tvekan kommer människor att uppmanas att korrigera sådana trender, filtrera, korrigera och strukturera träningsdata för just de processer som lämnar detta spår av förstörelse. Men självklart måste pedagogen utbildas, och eftersom även bokmarknaden är mättad med egengenererat skräp, kan kulturen som framtida pedagoger kommer att lära sig inte tas för given. I en berömd passage hävdade den unge Marx att den process av självförvandling som är involverad i verkligt lärande involverade en radikal omvandling av omständigheterna för lärande. Om lärandet nu riskerar att reduceras till en förnuftskontroll av resultaten av någon annans maskin, perfektion av produktionsrelationer som är strukturellt motsatta till den studerande, kommer det första steget mot självutbildning att behöva innebära en vägran att delta i denna tekniska utveckling. utanför.

Även om den konnektionistiska AI som ligger till grund för denna utveckling har rötter som till och med föregår den elektroniska datorn, är dess uppgång oskiljaktig från dynamiken i en samtida värld som plågas av seriekriser. Ett utbildningssystem som redan hotar att kollapsa ger grogrund för odling av farlig teknik, oavsett om det drivs av desperation, naivitet eller cynism från enskilda aktörers sida. Sjukvård, där de omedelbara riskerna kan vara ännu större, är ett annat område som boosters gärna presenterar som i linje för en AI-baserad shakeup. Vi skulle i dessa händelser kunna uppfatta ett förebud om framtida reaktioner på klimatkrisen. Glöm de vanliga apokalyptiska scenarierna som säljs av profeterna för artificiell allmän intelligens; De är en distraktion från den katastrof som redan är på väg.

Matteo Pasquinellis senaste bok, Mästarens öga: en social historia om artificiell intelligens, är förmodligen det mest sofistikerade försöket hittills att konstruera ett kritiskt teoretiskt svar på denna utveckling. Dess titel är något felaktig: det finns inte mycket social historia här, inte i konventionell mening. Faktiskt, som fallet var med Joy Lisi Rankin En populär historia av datorer i USA (2018) skulle det vara svårt att konstruera en sådan historia för ett tekniskt område som länge varit dolt i försålda akademiska och forskningsmiljöer. Det sociala kommer här in genom en teoretisk omtolkning av den kapitalistiska historien fokuserad på analyserna av Babbages och Marx' arbetsprocess, som identifierar även i 1800-talets mekanisering och arbetsfördelning ett slags främlingskap av det mänskliga intellektet. Detta lägger sedan grunden för en förklaring av den tidiga historien om konnektionistisk AI. Rubrikens “öga” kopplar automatiseringen av mönsterigenkänning till arbetsledningens historia.

Även om den knappast är en berättelse, är boken uppbyggd kring några överraskande akademiska upptäckter som förtjänar seriös uppmärksamhet. Det är välkänt att Babbages tidiga ansträngningar att automatisera datoranvändning var nära besläktade med ett politiskt-ekonomiskt perspektiv på arbetsfördelningen. Ett mer nytt perspektiv kommer från Pasquinellis spår av Marx begrepp om “allmänt intellekt” till Ricardian-socialisten William Thompsons bok från 1824: En utredning om principerna för Fördelning av välstånd. Thompsons teori om arbete lyfte fram den kunskap som är implicit i till och med relativt ödmjuka typer av arbete: kunskap som tillägnades av maskiner och motarbetades av just de människor från vilka den hade alienerats. Detta satte scenen för spekulationer om de möjliga ekonomiska konsekvenserna av denna ansamling av teknologi, såsom Marx berömda “fragment om maskiner”.

Men separationen av en förmodad “arbetsaristokrati” inom arbetarrörelsen gjorde att all betoning på de mer mentala aspekterna av arbetet var farliga för sammanhållningen. Som projektet av Huvudstad När han mognade satte Marx alltså det allmänna intellektet åt sidan för den kollektiva arbetaren, förringade kunskap och intellekt till förmån för fokus på social samordning. I processen fördunklades en tidig teori om kunskapens och intellektets roll i mekaniseringen och krävde därför rekonstruktion ur den stora språkmodellerans perspektiv. Innebörden för oss här är den kapitalistiska produktionen alltid det innebar ett alienation av kunskap; och mekaniseringen av intelligens var alltid integreras i arbetsfördelningen.

Om Pasquinelli stannade där, skulle hans bok uppgå till en intressant manöver inom området marxologi och den politiska ekonomins historia. Men detta material ger den teoretiska bakgrunden för en vetenskaplig utforskning av ursprunget till konnektionistiska tillvägagångssätt för maskininlärning, först i neurovetenskapen och teorierna om självorganisering av cybernetiska tänkare som Warren McCulloch, Walter Pitts och Ross Ashby som utbildades under Under World Andra kriget och under den omedelbara efterkrigstiden, och sedan i slutet av 1950-talet, uppstod Frank Rosenblatts “perceptron” vid Cornell Aeronautical Laboratory, den första direkta förfadern till samtida maskininlärningsmodeller. Bland de intellektuella resurserna som bidrog till utvecklingen av perceptronen fanns en kontrovers mellan cybernetiker och gestaltpsykologer angående frågan om gestaltuppfattning eller mönsterigenkänning; Hayeks konnektionistiska teori om sinne, som han hade börjat utveckla under en lite avslöjad period som laboratorieassistent till neuropatologen Constantin Monakow, och som gick parallellt med hans ekonomiska övertygelser; och vektoriseringsmetoder som hade vuxit fram ur statistik och psykometri, med sina djupa historiska kopplingar till eugenikrörelsen. Denna sista koppling har överraskande resonanser i sammanhanget av väl omtalade oro över ras och andra fördomar i samtida AI.

Pasquinellis ovanliga styrka här ligger i att kombinera förmågan att utveckla detaljerna i teknisk och intellektuell utveckling i AIs tidiga historia med en strävan mot att bygga en bredare social teori. Mindre utvecklad är hans försök att koppla perceptronen och allt som härrör från den till arbetsfördelningen, genom en betoning på automatiseringen, inte av intelligens i allmänhet, utan av perception, koppla den till arbetet med att övervaka produktionen. Men han kan fortfarande ha rätt på den mest abstrakta nivån när han försöker grunda den alienerade intelligens som för närvarande tar sig fram genom digitala medier, utbildningssystem, hälso- och sjukvård, etc., i en djupare historia av den maskinella exproprieringen av en intellektualitet som tidigare var integrerad i arbetsprocesser där mentalt arbete var en oupplöslig aspekt.

Den största skillnaden från den nuvarande vågen är kanske automationsobjektens sociala och kulturella status. Medan det tidigare var mentaliteten hos manuellt arbete som förkroppsligades i nya enheter, i ett sammanhang av stratifieringar där intellektualiteten i sådana områden förnekades, är det i nuvarande maskininlärningsmodeller den mänskliga diskursen i sig som objektiveras i maskineriet. Om maskineriets politik aldrig var neutral, borde den generella nivå som mekaniseringen nu når upp till larmklockorna överallt: dessa saker kan inte säkert anförtros åt en liten grupp företag och tekniska eliter. Så länge de är det kommer dessa verktyg – oavsett hur magiska de kan verka – att vara våra fiender, och att hitta alternativ till de dominerande vägarna för teknisk utveckling kommer att vara en brådskande fråga.

Fortsätt läsa: Hito Steyerl, 'Common Sensing?', NLR 144.

Leave a Reply

Your email address will not be published. Required fields are marked *