Venlig kunstig intelligens (Friendly AI, FAI - eng. Friendly Artificial Intelligence, Friendly AI, FAI ) - begrebet AI-filosofi , en hypotetisk type kunstig intelligens, der ikke har en negativ indvirkning på den menneskelige civilisation . Mange begreber af direkte udenlandske investeringer inkluderer påstanden om, at det ikke kun ikke vil skade menneskeheden, men også vil give materiel og informativ støtte til mennesker, op til den fulde tilfredsstillelse af hver enkelt persons ønsker og behov. "Venlig" er i denne sammenhæng et teknisk udtryk, hvilket ikke betyder, at AI'en nødvendigvis vil føle hengivenhed og nærhed til menneskeheden .
At fremme Friendly AI er et af hovedmålene for Singularity Institute for Artificial Intelligence , såvel som at opnå finansiering til dette projekt og i sidste ende skabe en " seed AI ", hvis motivationssystem i første omgang vil have en bekymring for menneskeheden indbygget i det. Adskillige bemærkelsesværdige fremtidsforskere har udtalt sig til støtte for Friendly AI, herunder forfatteren og opfinderen Ray Kurzweil , livsforlængelsespecialisten Aubrey de Gray og World Transhumanist Associations medstifter Nick Bostrom .
Den 11. december 2015 grundlagde Elon Musk , Sam Altman og andre OpenAI- virksomheden , som har til formål at fremme skabelsen af åben AI.
Den mest bemærkelsesværdige kritiker af Friendly AI-teorien er Bill Hibbard , forfatter til Superintelligent Machines, som anser teorien for ufuldstændig. Hibbard skriver, at AI-skabelse kræver mere politisk diskussion om AI-skabelse og AI-moral. Han mener også, at den første AI kun kan skabes af magtfulde private virksomheder (som Yudkowsky anser for falsk), og disse multinationale virksomheder vil ikke have noget incitament til at implementere venlighed. Han kritiserede SIAI-retningslinjerne for AI og foreslog en AI-målarkitektur, hvor menneskelig lykke defineres gennem menneskelig adfærd, der udtrykker lykke, især udtryk for et smil på ansigtet. Yudkowsky reagerede på denne kritik ved at sige, at en sådan nyttefunktion ville være mere tilbøjelig til at blive opfyldt, hvis hele solsystemet var fyldt med mikroskopiske smilende dukker end på grund af menneskers faktiske lykke [1] .