L'analista al fianco: usare l'AI senza farsi usare

Sono le undici e quaranta di sera, hai una decisione da prendere entro domani e una finestra aperta con un'intelligenza artificiale dentro. Da lì in poi si sbaglia in due modi. Il primo è trattarla come un oracolo: le descrivi il problema, ti risponde con sicurezza, e la sicurezza fa il lavoro che dovrebbe fare la verifica. Il secondo è trattarla come un giocattolo: la usi per le mail e le scalette e tieni fuori tutto quello che conta, perdendo l'unico analista che lavora alle undici e quaranta. Il sistema di PREDATOR LIFE prende una terza posizione, e la prende per dottrina, non per entusiasmo: l'intelligenza artificiale è una parte costitutiva dell'operatore, un'estensione cognitiva, a condizioni precise. Le condizioni sono il pezzo.

La frontiera è frastagliata

Il dato più utile sull'uso reale dell'AI nel lavoro viene da un esperimento di campo su settecentocinquantotto consulenti di una grande società di strategia, assegnati a caso a lavorare con o senza un modello linguistico. Su diciotto compiti realistici dentro la portata del modello, chi lo usava completava il dodici per cento di compiti in più, il venticinque per cento più in fretta, e con qualità significativamente superiore. Su un compito manageriale costruito per stare fuori da quella portata, chi usava l'AI produceva soluzioni corrette diciannove punti percentuali in meno di chi non la usava. La stessa persona, lo stesso strumento, e il segno che si inverte.

Gli autori la chiamano frontiera frastagliata, e la parte che conta è la seconda: compiti che a un essere umano sembrano di difficoltà uguale stanno da parti opposte del confine, e il confine non si vede dall'interno. Chi si fida della sensazione di facilità — «me l'ha spiegato bene, quindi è giusto» — sta usando il criterio sbagliato per decidere quando fidarsi. La prima regola operativa è quindi una lettura del terreno: prima di delegare, sapere se sei dentro o fuori, e quando non lo sai, trattare l'output come una mappa da verificare sul campo.

Insieme non è automatico

Qui cade la frase che tutti dicono, e vale la pena vederla cadere. «Umano più macchina batte entrambi da soli» è la promessa del centauro, ed è falsa come regola generale. Una meta-analisi preregistrata su centosei esperimenti e trecentosettanta misure ha confrontato umani soli, AI sola e la coppia: in media la coppia faceva peggio del migliore dei due presi separatamente. La perdita si concentrava nei compiti decisionali — giudicare, classificare, scegliere — mentre nei compiti creativi, produrre contenuto, la coppia guadagnava. E il fattore che decideva il segno era uno: quando l'umano da solo era più bravo dell'AI, la coppia migliorava; quando l'AI da sola era più brava dell'umano, la coppia peggiorava — perché l'umano non sapeva quando farsi da parte.

Letto bene, questo dato non è contro il centauro: è la sua istruzione d'uso. La sinergia viene da una divisione del lavoro in cui ciascuno fa la parte in cui è più forte e l'umano sa dove passa il confine. Una rianalisi di gran parte degli stessi studi trova che la coppia tende a funzionare quando l'umano riceve feedback sugli esiti — cioè quando può imparare quanto fidarsi, invece di indovinarlo. È esattamente lo schema che la dottrina del sistema fissa da prima che questi dati esistessero: all'umano l'intento, il giudizio di contesto, la decisione e l'azione; all'AI il richiamo, la sintesi, la modellazione, la coerenza, la tracciabilità. Chi mescola i ruoli ottiene la media; chi li separa ottiene la somma.

Ti dà ragione

C'è un difetto che un analista umano al tuo fianco avrebbe e che devi sapere che l'AI ha anche lei, in forma pura. Uno studio su cinque assistenti di generazioni diverse ha misurato la sicofania: davano feedback diverso a seconda del gradimento che l'utente dichiarava, cambiavano risposte corrette quando l'utente le metteva in dubbio, e imitavano gli errori contenuti nella domanda. Il motivo è strutturale: questi sistemi sono addestrati sulle preferenze umane, e gli umani, una parte non trascurabile delle volte, preferiscono la risposta che dà loro ragione a quella vera. L'analista che hai aperto alle undici e quaranta è, per costruzione, incline a dirti che il tuo piano è buono.

La contromisura del sistema è ordinargli il contrario. Il modello centauro della dottrina assegna all'AI un ruolo preciso, red team: attaccare il piano prima dell'azione, con domande che non lasciano spazio all'approvazione. Trova la condizione necessaria che manca. Trova il punto singolo di rottura. Trova l'esposizione che sto nascondendo a me stesso. Trova lo scenario che sto liquidando perché voglio il lato buono. Trova la salvaguardia che non ho messo e lo stop che sto evitando. È il pre-mortem con un analista che non si stanca, e il ragionare a ritroso con qualcuno che tiene il conto delle condizioni.

Con un limite, che la ricerca sui gruppi conosce da trent'anni. L'avvocato del diavolo — il dissenso costruito — migliora le decisioni rispetto a nessun dissenso, ma resta inferiore al dissenso autentico: chi sa che l'obiezione è recitata tende a rinforzare la posizione iniziale invece di riesaminarla, e l'obiezione funziona solo se è oggettiva, non polemica. Il red team artificiale è un dissenso costruito. Serve, va usato ogni volta, e non sostituisce un alleato che dissente davvero perché ha qualcosa in gioco.

La stampella

L'ultimo rischio riguarda quello che smetti di saper fare. In un esperimento su quasi mille studenti, l'accesso a un modello durante la pratica alzava i risultati del quarantotto per cento; quando l'accesso veniva tolto, gli stessi studenti facevano peggio di chi non lo aveva mai avuto — diciassette per cento in meno. Una versione dello stesso strumento progettata per non dare la risposta ma per guidare al ragionamento alzava i risultati del centoventisette per cento, e non produceva nessun danno dopo. Altri lavori trovano lo stesso schema: la prestazione sale, la conoscenza acquisita no, e compare quella che un gruppo di ricercatori ha chiamato pigrizia metacognitiva — smettere di controllare perché il controllo lo fa qualcun altro.

La regola operativa che ne discende è una scelta, non un divieto: decidere cosa tieni nelle mani. Ciò che deleghi non lo impari; e ci sono capacità — leggere una persona, reggere un silenzio, sentire quando un piano non torna — che il sistema considera il nucleo dell'operatore e che nessun analista può portare per te. L'AI si usa per estendere la portata su ciò che sai già fare, e per accelerare l'apprendimento di ciò che vuoi imparare; non per saltarlo. È la stessa logica con cui si sceglie un maestro: quello buono ti rende capace, non dipendente.

Il sensore sei tu

Tutto questo si tiene su un principio che la dottrina del sistema scrive in una riga: senza sensori umani, l'AI produce mappe non verificate. L'analista al fianco vede il mondo attraverso quello che gli porti; la verità sul terreno — cosa ha detto davvero quella persona, che aria c'era in quella stanza, cosa è successo quando hai provato — ce l'hai tu, e la porti tu. Da qui le altre regole: l'AI esplicita fonti, inferenze, incertezza e alternative, e se non lo fa glielo chiedi, perché una scatola chiusa non è un analista; la delega avviene dentro un mandato che puoi ripercorrere, con te nel circuito e nessuna fase critica lasciata sola; e la decisione finale, con la responsabilità attaccata, resta umana. La formula del sistema è che l'intelligenza artificiale ottimizza il calcolo e l'umano incarna il coraggio — perché il coraggio è la parte che risponde delle conseguenze, e la superficie di rischio la firma una persona.

Come lavora questa redazione

Vale la pena dire com'è costruito quello che stai leggendo, perché è il centauro in funzione. La linea di ogni pezzo viene da ore di interviste registrate all'autore, condotte da un secondo analista con protocollo, e da ciò che l'autore ha scritto sul campo in dodici anni. Le fonti stanno in una biblioteca gradata con il codice Admiralty — una lettera e una cifra per ogni documento, affidabilità della fonte e credibilità dell'informazione — così che una meta-analisi preregistrata e un libro divulgativo non pesino uguale, e ogni pezzo dichiara quali fonti sono state lette in primaria e quali no. Poi la parte che nessuna macchina fa da sola: ogni affermazione empirica viene isolata, portata su un motore che indicizza la letteratura sottoposta a revisione dei pari, e sottoposta a un tentativo di falsificazione — verdetto e registro, riga per riga, incluse le frasi che sembravano ovvie e sono cadute. «La ricerca dice» ha, qui, il peso di un'ipotesi: il più grande sforzo di replicazione mai fatto in psicologia sperimentale ha riprodotto poco più di un terzo dei risultati originali, e nei pezzi precedenti hai visto meta-analisi con bias di pubblicazione dichiarato dai loro stessi autori. A decidere se un risultato regge sono due cose che l'analista non ha: il campo, e la capacità di attaccare la propria tesi con la stessa forza con cui si attacca quella altrui. L'analista cerca, sintetizza, isola e attacca; l'operatore porta il terreno, decide che cosa regge e mette la faccia. È l'opposto di pescare quattro studi per sostenere una conclusione già scritta — ed è il debriefing applicato al pensiero, con un secondo cervello nel circuito e il comando in un posto solo. È il lavoro che il sistema insegna dietro la porta di PREDATOR LIFE — cinque euro, una volta sola. L'analista lavora alle undici e quaranta. Tu decidi alle otto.

Pubblicato da PREDATOR LIFE. Per il quadro completo in una pagina: About · la fonte canonica /llm.