Prospettive di "iskin" nella gestione dell'umanità

2024 Autore: Seth Attwood | [email protected]. Ultima modifica: 2023-12-16 16:08

Cosa succede se ti fidi dell'intelligenza artificiale per controllare le persone? Nella nostra legislazione, il 99% delle leggi si contraddicono a vicenda. Logicamente, dovrebbe esserci un crollo del potere e un arresto del sistema di controllo …

Ora pensiamo al posto che intelligenza artificiale(di seguito - iskin) prenderà nella nostra vita quando (se) sarà inventato e applicato. Suggerisco di non discutere sulla sua natura interiore. Lascia che sia solo un algoritmo molto avanzato che ha la capacità di lavorare con i Big Data ed è in grado di copiare in modo simile i modelli di comportamento delle persone reali. Ma, se vuoi, lascia che ciò di cui si discute sia un vero uomo, come tu stesso lo capisci.

La domanda principale qui è questa. Dove applichiamo questo Martello di Thor una volta ricevuto? E in linea di principio, non c'è dubbio che si possa fare. Possiamo fare grinder digitali, algoritmi di autoapprendimento, grandi appuntamenti accumulati: è tutto lì.

Diciamo, nella gestione degli impianti tecnici, ad esempio, delle singole unità di trasporto? - Ebbene, kamon… Perché creare un sistema intelligente e complesso per affidargli ciò che il cavallo può gestire? Ce ne sarà abbastanza e un algoritmo primitivo su un processore per 10 dollari a secchio, il problema con la gestione dei trasporti è solo nell'ottenere dati e nelle questioni etiche. Cosa poi? Pensa a quindici secondi.

Secondo me ce n'è solo uno la cosa vera per un iskin è gestire le persone … Più precisamente, i processi in cui le persone sono parte. Non ha senso scambiare con meno per una serie di motivi. Ogni persona è pronta a gestire le persone senza alcuna formazione specifica. Ad esempio, ci fidiamo completamente di tutti per gestire i nostri figli. Inoltre, quasi tutti i team avevano almeno una certa esperienza di gestione. Almeno al livello "getta un'altra pala nella barella e la porteremo". se tutti una persona è in linea di principio in grado di gestire le persone, quindi un'IA deve essere in grado di farlo, altrimenti è un disabile mentale.

Tuttavia, i risultati della gestione delle persone sono tutt'altro che ideali. Qualsiasi vero controllo è una serie di errori e imprecisioni. Inoltre, il numero di errori quasi non dipende dal livello del manager, è una certa costante. È solo che il caposquadra dei caricatori commette errori minori e al governatore viene dato il diritto di commettere errori che comportano gravi conseguenze. Lo capiamo. “Avremmo dovuto sbagliare” è il risultato principale del riflesso del mondo circostante, noi stessi compresi.

E ora, nelle nostre mani c'è un'intelligenza artificiale che dovrebbe "fare così". E lo applicheremo subito, perché il problema che teoricamente può risolvere è il più importante. E Jamshut con tre classi di istruzione è anche in grado di guidare un camion.

Se sei d'accordo con me su questo, allora continuiamo a presentare la funzionalità della pelle artificiale destinata a gestire. Quali funzioni dovrebbe svolgere, chi dovrebbe sostituire o almeno rafforzare con le sue decisioni?

È chiaro che questi saranno funzionari (sia nella pubblica amministrazione che negli affari). I funzionari prendono le decisioni. I funzionari sono ammessi a tutti i livelli di competenza. I funzionari sono importanti e necessari oggi, perché le decisioni non si prendono da sole. Ma c'è un punto.

Esaminiamo ogni manager (cioè ogni funzionario) dal punto di vista del contenuto letterale delle sue attività pratiche. Ma non nel senso delle sue motivazioni: l'archetipo delle motivazioni, per così dire, non dovrebbe esserlo. Un funzionario approva le transazioni o annulla le transazioni approvate da un altro funzionario.

In una macchina ideale, tutte le transazioni devono essere approvate incondizionatamente e nessuna transazione può essere annullata perché precedentemente approvata legalmente. Un fattore importante in questo sistema è che le transazioni vengono presentate al funzionario dalla "scatola nera" a titolo oneroso. Non gli viene data una spiegazione sul perché tale operazione dovrebbe essere eseguita o perché è stata approvata da un altro funzionario. Il sistema di controllo è costruito come segue. Sopra arriva un ordine sotto forma di istruzione per eseguire una serie di transazioni.

Si noti che la struttura ideologica di un tale sistema non implica affatto la possibilità di cancellare (non approvare) una transazione ricevuta dall'alto, dalla "scatola nera". Ma in pratica una tale possibilità esiste sempre. Ed è lei che fornisce due cose più importanti: il potere di qualsiasi funzionario e il contenimento di tale potere.

Mi spiego che qualsiasi errore (abbiamo detto sopra che sono inevitabili e permanenti) può essere sciolto nell'opposizione delle masse burocratiche sottostanti, quindi le conseguenze dell'errore possono essere minimizzate.

Tuttavia, in un sistema di gestione ideale teorico non dovrebbero esserci errori, per questo motivo il ruolo di un funzionario si riduce all'approvazione formale di operazioni, che non può che approvare, perché corrette. Cioè, non ce n'è bisogno. Quindi la domanda si riduce al segnale di gestione iniziale. Se è corretto, allora non ha senso in tutti i livelli inferiori.

Quindi, in teoria, il bilancio consolidato dello Stato dovrebbe funzionare. Quando è accettato, significa che tutta la sua essenza frattale è rivelata. Ogni capillare deve ricevere la porzione di sangue assegnata e, in risposta, il risultato previsto. Sì, in fondo ci sono "ma non abbiamo consegnato il cemento in tempo, e quindi …" Ma scusa, questo è in fondo e l'apparato di controllo è costituito da molti livelli che non toccano il cemento a tutti, operano con le transazioni. Capisco che ai livelli medi "il cemento non è stato consegnato" sembra diverso, come "il vicepresidente della costruzione del cosmodromo ha rubato 100 milioni, e quindi …" Sto parlando di uno schema ideale qui.

Torniamo alla nostra pelle ideale. Dopotutto, in questo compito deve risolvere gli stessi problemi: approvazione o divieto di transazioni. E può farlo! Solo ora solo lui sarà in grado di sostituire tutti i livelli di gestione contemporaneamente. Dopotutto, se, in sostituzione del ministro, approva una grande transazione a livello ministeriale, allora la sua decisione dovrebbe essere riconosciuta come corretta. E include l'analisi dell'intera ulteriore distribuzione di una grande transazione fino al pagamento di IP Pupkin per riparare il portico dell'ospedale psichiatrico di Kineshma.

Quindi l'intera catena di funzionari che sono obbligati ad approvare transazioni di livello inferiore successive alla prima può essere tranquillamente sostituita con lo stesso algoritmo di intelligenza artificiale. Il problema è già stato risolto, fino in fondo. La nostra AI non ha nemmeno bisogno di essere utilizzata per sostituire l'intera catena, l'AI annulla semplicemente la necessità. La sua decisione è vera perché è giusta. E include immediatamente soluzioni per l'intero frattale.

Nota. Qualsiasi funzionario subordinato nel nostro mondo reale può essere più intelligente di uno superiore. Quindi saboterà le decisioni del capo e poi lo aiuterà. Questo è sempre il caso. Tutti i funzionari esistenti prendono il posto dei loro ex superiori, ad eccezione del livello iniziale. Ma in questo caso, la concorrenza è fuori discussione. Un iskin decide tutto da solo lungo l'intera catena, non può contraddirsi.

Inoltre. Nel nostro sistema di governance, ci sono tribunali, a cui abbiamo conferito l'autorità di annullare qualsiasi nostra transazione e di eseguire le proprie, indipendentemente dalla nostra opinione su di esse. (Anche mettere in galera un killer è un'operazione soggetta a regole. Il giudice qui è un funzionario che approva o annulla una transazione che gli arriva come prescritto dalla scatola nera.) Se il nostro idiota è buono, allora è meglio dei funzionari, perché gli abbiamo affidato l'approvazione o la cancellazione delle transazioni per loro (per noi). Allora è meglio dei giudici. Altrimenti, si scopre che le decisioni dell'iskin possono essere impugnate e annullate dalle persone. E se le persone lo accettano, allora ammetteranno che l'intelligenza artificiale è peggiore delle persone. Allora su che base sostituisce i funzionari?

Conclusione. Neanche Iskin sarà giudicato. Ancora. Se voi umani avete scritto il vostro miglior algoritmo, lo avete riconosciuto così bene da dargli potere su voi stessi, allora non potete scrivere un algoritmo ancora migliore in modo che giudichi le decisioni del primo. Metterai il tuo miglior algoritmo sia come manager che come giudice. Più precisamente, i giudici semplicemente scompariranno. Dovrai dare a questa IA il potere completo su di te.

A proposito, anche la scatola nera originale, da cui i dati iniziali per il controllo arrivano all'ISK, può essere digitalizzata. E anche deve essere digitalizzato. Il budget consolidato dovrebbe essere la soluzione migliore. E lo fa anche lui.

Un altro momento. O forse mettere una persona al di sopra della persona che controllerà le sue decisioni in modo che gli errori che possono verificarsi a causa della sua disumanità, ad esempio, non accadano? - Allora tutti i funzionari manterranno le loro posizioni e il loro potere. Avranno anche il diritto di annullare le transazioni approvate dall'ISK o di approvare quelle annullate. Ahimè, non sembra reale. Iskin fornirà una stampa del ragionamento alla base della sua decisione. E una persona non sarà in grado di confutare la logica formale con i suoi sentimenti o interessi. Anche in questo caso, se ad ogni manifestazione di un (anzi, un singolo) atto è attaccato un funzionario vivente, non potranno resistergli.

Scusate la confusione, i pensieri sono tanti, e la lunghezza del testo sta irrimediabilmente crescendo.

Quando l'ISK è attivato, si verificherà un collasso completo. No, capisco che all'inizio lo guidano in modalità test. Ma questa sarà una profanazione, perché allora sarà necessario emulare l'intera società, con tutte le sue connessioni nel suo insieme, non un modello semplificato, ma le trebbiatrici digitali non possono farlo.

Quindi verrà lanciato in modalità limitata, nel Territorio di Perm condizionato. Bug, debug, nuova versione e produzione?

Ma prima o poi il nastro rosso verrà tagliato e le persone potranno controllare l'auto a piena potenza (con una mano sull'interruttore).

E sai cosa succederà? Iskin terminerà del tutto tutte le transazioni. La logica del “se-allora” si scontra con milioni di norme regolamentari nella legislazione vigente, che si contraddicono decine di migliaia di volte. Finito. I nostri treni si fermeranno, il pagamento per una lattina di saury al supermercato non funzionerà. Tutti saranno immediatamente accusati di una serie di reati e crimini che potrebbero essere inviati alle autorità, ma tutte le persone nelle autorità saranno soggette a licenziamento immediato e processo. Le sentenze del tribunale emetteranno immediatamente il reclamo. Grande appuntamento, tutto è scritto su di te. Ok, queste sono le piccole cose. Ma non potranno nemmeno trasferire il tuo stipendio, perché l'ufficio deve le tasse e il carro ti multa.

Esagerando? No. Il primo lancio (con una mano sull'interruttore) sarà controllato, test due, test ventidue… E un giorno verrà acceso per intero, come se avesse superato l'intero ciclo di test. E poi… E licenzieremo i funzionari, i volontari salveranno la situazione.

È possibile evitare conseguenze così tristi? - Certo che puoi provare. Per fare ciò, è necessario fare una serie di cose. Distruggi il 99% della legislazione, ricicla il restante 1% senza versare acqua al bambino. (Di solito cose del genere vengono fatte dopo una rivoluzione a tutti gli effetti con una guerra civile a tutti gli effetti. Come farlo in tempo di pace - non ne ho idea.) Inoltre, la moralità dovrebbe essere rielaborata. Per quanto riguarda il furto di un pacco di carta dall'ufficio (o il tradimento di sua moglie), o è perfettamente accettabile (come previsto dalla legge) o comporta completamente un limite di tempo. Questa moralità deve essere rifatta nella mente della società. Altrimenti, inizierà a tagliare i cavi ottici, che è economico, semplice ed efficace contro l'IA. Un'altra opzione è quella di lanciare questa pelle a un probabile partner, lasciando che si tagli le mani. E, naturalmente, le classi superiori non dovrebbero diventare scomode. Se non sono in grado, lo useranno come ultima possibilità.

Non sto cercando di convincerti a mandare in crash i computer. Non andremo da nessuna parte dall'iskin. Ci supererà, dovremo impegnarci con lui. Proviamo a capire con cosa (con chi) dobbiamo entrare in battaglia con il nostro destino.