Ha képesek vagyunk mesterséges intelligenciát létrehozni,
a mai számítástechnikai elvek mellett ehhez az szükséges,
hogy valami formális nyelven egy programot, egy működési
algoritmust írjunk hozzá.
Tegyük fel, hogy X egy ilyen gépet beszélgetésre
programoz: a gép bizonyos szabályszerűségek szerint
reagál verbális külső ingerekre. Ha X készít egy ilyen
gépet, Y - akinek fogalma sincs arról, hogy X gépe milyen
algoritmust követ - kérdezgetheti, verbális akció-reakció
elven kényszerítheti adott viselkedésformákra.
Megadható-e olyan - beszélgetésre megírt - algoritmus X
gépének, ami - a beszélgetés alapján - pontosan nem
visszafejthető (ha akár végtelen idő is áll Y
rendelkezésére)?
Az én válaszom: nem. Egy mesterséges intelligencia tehát ilyen értelemben tökéletesen reprodukálható: ha Y visszafejti X gépének kódját, önmaga is reprodukálni lesz képes X gépét.
(Persze ha a gép pl. bármilyen kérdésre hallgat, lehet akármilyen bonyolult is a tényleges program-scriptje, az egyszerű algoritmussá tömöríthető. A script ilyenkor lehet feltáratlan, a kapott viselkedésminta azonban tökéletesen reprodukálható. Ennyi nekünk pedig elég.)
Kérdés: megtehető-e ugyanez embernél? Létezik-e
"ember-algoritmus", amely visszafejthető, amely minden
egyes embernél, minden egyes személyre reprodukálható?
Vissza tudja-e bárki is fejteni az "én" személyre
szabott működési kódomat?
Ha igen, és a kilométer hosszú papírtömeget ha én
megkapom, képes leszek-e annak megértésére, képes
leszek-e önmagam programjának megváltoztatására saját
scriptem ismeretében? Ha igen, hiteles-e így a
visszafejtett script?
Tartalmazhatja-e egy formális algoritmus ezt a
megváltozási képességet (hisz ha valóban az én
teljes működésemet leíró kódom, le kell tudnia
írni, hogy én a scriptet megkapva így és így fogok
változtatni magamon)? Ha tartalmazza, nem tudom-e ezt
is "kijátszani" valami újabb magatartás-változtatással?
Létezik tehát ennek fényében "ember-algoritmus"?