Friendly AI è un termine usato da Intelligenza Artificiale (AI) ai ricercatori di riferimento ai sistemi di intelligenza artificiale che, in generale, compiere azioni che sono utili per l'umanità piuttosto che neutro o dannosi. Questo non significa che l'obbedienza cieca-al contrario, il termine è usato per descrivere i sistemi di intelligenza artificiale che sono amichevoli, perché vogliono essere, non a causa di qualsiasi forza imposta dall'esterno. Oltre a fare riferimento ai sistemi di completamento, Friendly AI è anche il nome del teorico e disciplina ingegneristica che sarebbe stato utilizzato per creare tali sistemi con successo.

Il termine "Friendly AI" nasce con Eliezer Yudkowsky del Singularity Institute for Artificial Intelligence, il cui obiettivo è la creazione di Friendly AI abbastanza intelligente per migliorare il suo codice sorgente senza l'intervento del programmatore. Il suo libro-opera molto su questo tema, Creazione Friendly AI , pubblicato online nel 2001, è probabilmente il primo trattamento rigoroso del tema da nessuna parte. Yudkowsky invoca argomenti di psicologia evolutiva e delle altre scienze cognitive per sostenere il suo approccio al problema della Friendly AI.

Friendly AI è considerato importante come disciplina accademica, perché in passato i tentativi di "risolvere" il problema della canaglia AI generalmente invocato rigorosi vincoli programmatici, che sono destinate a crollare sotto interpretazioni alternative, quando l'intelligenza artificiale diventa più intelligente di esseri umani , o semplicemente quando si acquisisce la capacità di riprogrammare se stesso. Antropomorfismo è un problema anche in AI. Perché l'evoluzione costruisce organismi che tendono ad essere egoista, molti pensatori supporre che ogni AI costruire sarebbe la stessa tendenza, o immediatamente o dopo essere divenuti abbastanza intelligente.

Evolution costruisce con gli organismi di auto-centrato sistemi obiettivo perché non c'è altro modo. Sistemi obiettivo altruistici sono voluti milioni di anni ad evolversi, e lo hanno fatto solo in condizioni in cui i membri della stessa tribù aveva molto da guadagnare da aiutare l'un l'altro e molto da perdere da trascurare di farlo. Ma se siamo stati a progettare una mente da zero, abbiamo potuto costruire senza un sistema di auto-centrato l'obiettivo. Ciò non sarebbe "limitare l'AI"-sarebbe semplicemente creando un artificiale che è altruista per natura.

L'osservazione di cui sopra è uno dei tanti che contribuiscono al campo di Friendly AI, che è estremamente nuovo e ha ancora bisogno di molto lavoro. Alcuni ricercatori sostengono che AI non siamo in grado di determinare le caratteristiche progettuali necessari per l'attuazione Friendly AI finché non avremo più intelligenti sistemi di intelligenza artificiale per sperimentare su. Altri sostengono che un approccio puramente teorica, è non solo possibile, ma eticamente necessario, prima di iniziare un serio tentativo a livello generale l'influenza aviaria.