Perspektiver af "iskin" i forvaltningen af menneskeheden

2024 Forfatter: Seth Attwood | [email protected]. Sidst ændret: 2023-12-16 16:01

Hvad sker der, hvis du stoler på, at kunstig intelligens kontrollerer folk? I vores lovgivning modsiger 99% af lovene hinanden. Logisk set burde der være et sammenbrud af magten og et stop for kontrolsystemet …

Lad os nu tænke på stedet det kunstig intelligens(herefter - iskin) vil tage i vores liv, når (hvis) det er opfundet og anvendt. Jeg foreslår ikke at skændes om dens indre natur. Lad det blot være en meget avanceret algoritme, der har evnen til at arbejde med Big Data, og er i stand til på samme måde at kopiere adfærdsmønstrene hos rigtige mennesker. Men hvis du vil, så lad det, der diskuteres, være en rigtig mand, som du selv forstår det.

Hovedspørgsmålet her er dette. Hvor anvender vi denne Hammer of Thor, når vi modtager den? Og i princippet er der ingen tvivl om, at det kan lade sig gøre. Vi kan lave digitale slibemaskiner, selvlærende algoritmer også, stor dato akkumuleret - alt er der.

Sig, i styringen af tekniske systemer, for eksempel individuelle transportenheder? - Nå, kamon … Hvorfor lave et smart og komplekst system for at betro det, hvad hesten kan klare? Der vil være nok og en primitiv algoritme på en processor til 10 dollars pr. spand, problemet med transportstyring er kun i at skaffe data og i etiske spørgsmål. Hvad så? Tænk på femten sekunder.

Efter min mening er der kun én den rigtige ting for en iskin er at styre mennesker … Mere præcist de processer, som mennesker er en del af. Det nytter ikke noget at bytte for mindre af en række årsager. Hver person er klar til at lede mennesker uden nogen særlig uddannelse. For eksempel stoler vi fuldstændig på, at alle styrer vores egne børn. Også næsten alle i teamene havde i det mindste en vis ledelseserfaring. I det mindste på niveauet "smid en skovl mere ind i båren, så bærer vi den." Hvis alle en person er i princippet i stand til at styre mennesker, så skal en AI kunne dette, ellers er det et psykisk svækket intellekt.

Men resultaterne af ledelsen af mennesker er langt fra ideelle. Enhver reel kontrol er en række fejl og unøjagtigheder. Desuden afhænger antallet af fejl næsten ikke af lederens niveau; det er en vis konstant. Det er bare det, at læssemesteren laver mindre fejl, og guvernøren får ret til at lave fejl, der har alvorlige konsekvenser. Vi forstår dette. "Vi burde have gjort forkert" er hovedresultatet af refleksionen af den omgivende verden, inklusive os selv.

Og nu, i vores hænder er en AI, der formodes at "gøre det". Og vi vil straks anvende det, for det problem, som det teoretisk kan løse, er det vigtigste. Og Jamshut med tre uddannelsesklasser er også i stand til at køre lastbil.

Hvis du er enig med mig i dette, så lad os fortsætte med at præsentere funktionaliteten af den kunstige hud, der er beregnet til at håndtere. Hvis funktioner skal han udføre, hvem skal han erstatte eller i det mindste styrke med sine beslutninger?

Det er klart, at disse vil være embedsmænd (både i den offentlige administration og i erhvervslivet). Embedsmænd træffer beslutninger. Embedsmænd accepteres på alle kompetenceniveauer. Embedsmænd er vigtige og nødvendige i dag, for beslutninger vil ikke tage sig selv. Men der er én pointe.

Lad os se på hver leder (det vil sige enhver embedsmand) ud fra synspunktet om det bogstavelige indhold af hans praktiske aktiviteter. Men ikke i betydningen af hans motivationer – arketypen af motivationer burde sådan set ikke være det. En embedsmand godkender enten transaktioner eller annullerer transaktioner godkendt af en anden embedsmand.

I en ideel maskine skal alle transaktioner være ubetinget godkendt, og ingen transaktioner kan annulleres, fordi de tidligere var lovligt godkendt. En vigtig faktor i dette system er, at transaktioner indsendes til embedsmanden fra "den sorte boks" til overvejelse. Han får ikke en forklaring på, hvorfor en sådan transaktion skal gennemføres, eller hvorfor den blev godkendt af en anden embedsmand. Styresystemet er opbygget som følger. Ovenfor kommer en ordre i form af en instruktion om at udføre en række transaktioner.

Bemærk, at den ideologiske struktur af et sådant system slet ikke indebærer muligheden for at annullere (ikke godkende) en transaktion modtaget fra oven, fra den "sorte boks". Men i praksis eksisterer en sådan mulighed altid. Og det er hende, der sørger for to vigtigste ting: enhver embedsmands magt og indeslutningen af en sådan magt.

Lad mig forklare, at enhver fejltagelse (vi sagde ovenfor, at de er uundgåelige og permanente) kan opløses i oppositionen fra de underliggende bureaukratiske masser, så kan konsekvenserne af fejlen minimeres.

Men i et teoretisk ideelt ledelsessystem bør der ikke være nogen fejl, af denne grund er en embedsmands rolle reduceret til den formelle godkendelse af transaktioner, som han ikke kan andet end at godkende, fordi de er korrekte. Det vil sige, at der ikke er behov for det. Så spørgsmålet koger ned til det indledende ledelsessignal. Hvis det er korrekt, så er der ingen mening i alle de lavere niveauer.

Så i teorien burde statens konsoliderede budget fungere. Når det er accepteret, betyder det, at hele dets fraktale essens er afsløret. Hver kapillær skal modtage den tildelte del af blod, og som svar - det tilsigtede resultat. Ja, helt nederst er der “men vi leverede ikke beton til tiden, og derfor …” Men undskyld mig, det er helt nederst, og kontrolapparatet består af mange niveauer, der ikke rører betonen overhovedet opererer de med transaktioner. Jeg forstår, at på mellemniveauerne "beton blev ikke leveret" ser anderledes ud, som "vicepræsidenten for kosmodromkonstruktionen stjal 100 millioner, og derfor …" Jeg taler om en ideel ordning her.

Lad os gå tilbage til vores ideelle hud. Når alt kommer til alt, i denne opgave skal han løse de samme problemer - godkendelse eller forbud mod transaktioner. Og det kan han! Først nu vil han alene være i stand til at erstatte alle ledelsesniveauer på én gang. Når alt kommer til alt, hvis han i stedet for ministeren godkender en stor transaktion på ministerniveau, bør hans beslutning anerkendes som korrekt. Og det inkluderer analysen af hele den videre distribution af en stor transaktion op til betalingen af IP Pupkin for at reparere verandaen på det psykiatriske hospital i Kineshma.

Så hele kæden af embedsmænd, der er forpligtet til at godkende transaktioner på lavere niveauer efter det første, kan sikkert erstattes med den samme AI-algoritme. Problemet er allerede løst, helt ned til bunden. Vores AI behøver ikke engang at blive brugt til at erstatte hele kæden, AI’en annullerer blot behovet for det. Hans beslutning er sand, fordi den er rigtig. Og det indeholder straks løsninger til hele fraktalen.

Bemærkning. Enhver underordnet embedsmand i vores virkelige verden kan være smartere end en højere. Så vil han sabotere chefens beslutninger, og så vil han hjælpe ham. Dette er altid tilfældet. Alle eksisterende officials indtager pladserne som deres tidligere overordnede, undtagen startniveauet. Men i dette tilfælde er konkurrence udelukket. En iskin bestemmer alt langs hele kæden af sig selv, han kan ikke modsige sig selv.

I øvrigt. I vores ledelsessystem er der domstole, som vi har givet bemyndigelse til at annullere enhver af vores transaktioner og udføre deres egne, uanset vores mening om dem. (At sætte en morder i fængsel er også en regelbundet transaktion. Dommeren her er en embedsmand, der godkender eller annullerer en transaktion, der kommer til ham som foreskrevet fra den sorte boks.) Hvis vores idiot er god, så er han bedre end embedsmænd, fordi vi har betroet ham godkendelse eller annullering af transaktioner for dem (for os). Så er han bedre end dommerne. Ellers viser det sig, at iskins beslutninger kan udfordres og annulleres af folk. Og hvis folk accepterer dette, så vil de indrømme, at AI er værre end mennesker. På hvilket grundlag erstatter han så embedsmænd?

Konklusion. Iskin bliver heller ikke dømt. Igen. Hvis I mennesker skrev jeres bedste algoritme, anerkendte den så godt, at I gav den magt over jer selv, så kan I ikke skrive en endnu bedre algoritme, så den bedømmer den førstes beslutninger. Du vil sætte din bedste algoritme både som leder og som dommer. Mere præcist vil dommerne simpelthen forsvinde. Du bliver nødt til at give denne AI fuldstændig magt over dig.

I øvrigt kan den originale sorte boks, hvorfra de indledende data til kontrol kommer til ISK, også digitaliseres. Og skal endda digitaliseres. Det konsoliderede budget bør passe bedst. Og det gør han også.

Endnu et øjeblik. Eller måske sætte en person over den person, der ville kontrollere hans beslutninger, så de fejl, der eksempelvis kan opstå på grund af hans umenneskelighed, ikke sker? - Så vil alle embedsmænd beholde deres stillinger og deres magt. De vil også få ret til at annullere transaktioner godkendt af ISK eller til at godkende annullerede. Ak, det ser ikke rigtigt ud. Iskin vil give en udskrift af begrundelsen bag sin beslutning. Og en person vil ikke være i stand til at tilbagevise formel logik med sine følelser eller interesser. Selv i dette tilfælde, hvis en levende embedsmand er knyttet til hver manifestation af en (faktisk en enkelt) handling, vil de ikke være i stand til at modstå ham.

Undskyld forvirringen, der er mange tanker, og tekstens længde vokser uopretteligt.

Når ISK er slået til, vil et fuldstændigt kollaps ske. Nej, jeg forstår, at de først kører ham i testtilstand. Men dette vil være en profanering, for så vil det være nødvendigt at efterligne hele samfundet med alle dets sammenhænge som helhed, ikke en forenklet model, men det kan digitale tærskere ikke.

Derefter vil den blive lanceret i en begrænset tilstand, i det betingede Perm-territorium. Bugs, debugging, ny udgivelse og produktion?

Men før eller siden vil det røde bånd blive klippet, og folk vil kunne styre bilen på fuld kraft (med en hånd på kontakten).

Og ved du, hvad der kommer til at ske? Iskin vil afslutte alle transaktioner helt. "Hvis-så"-logikken vil kollidere med millioner af regulatoriske normer i den nuværende lovgivning, som modsiger hinanden titusindvis af gange. Finita. Vores tog stopper, betalingen for en dåse saury i supermarkedet virker ikke. Alle vil straks blive sigtet for en bunke lovovertrædelser og forbrydelser, der kan sendes til myndighederne, men alle personer i myndighederne vil blive udsat for øjeblikkelig afskedigelse og retssag. Rettens afgørelser vil udstede kravet med det samme. Stor date, alt er skrevet om dig. Okay, det er de små ting. Men de vil heller ikke kunne overføre din løn, fordi kontoret skylder skat, og vognen giver dig en bøde.

overdrive? Nix. Den første lancering (med en hånd på kontakten) vil blive kontrolleret, test to, test toogtyve … Og en dag vil den blive tændt fuldt ud, som om den havde bestået hele testcyklussen. Og så … Og vi vil afskedige embedsmændene, frivillige vil redde situationen.

Er det muligt at undgå sådanne triste konsekvenser? - Selvfølgelig kan du prøve. For at gøre dette skal der gøres en række ting. Ødelæg 99 % af lovgivningen, genbrug de resterende 1 % uden at hælde barnet ud med vand. (Sådan ting gøres normalt efter en fuldgyldig revolution med en fuldgyldig borgerkrig. Hvordan man gør det i fredstid - det aner jeg ikke.) Derudover bør moralen omarbejdes. Med hensyn til at stjæle en pakke papir fra kontoret (eller snyde sin kone), er det enten helt acceptabelt (afspejlet i loven), eller også medfører det fuldstændig en tidsbegrænsning. Denne moral skal laves om i samfundets sind. Ellers vil den begynde at skære de optiske kabler over, hvilket er billigt, enkelt og effektivt mod AI. En anden mulighed er at smide denne iskin til en sandsynlig partner, lade ham skære sine egne hænder. Og selvfølgelig skal overklassen ikke blive ubelejlige. Hvis de ikke er i stand, så vil de bruge det som en sidste chance.

Jeg prøver ikke at overbevise dig om at nedbryde computere. Vi vil ikke gå nogen steder fra iskin. Han vil overhale os, vi bliver nødt til at engagere os med ham. Lad os prøve at forstå med hvad (med hvem) vi skal gå i kamp med vores skæbne.