Skutečná otázka nezní, co technologie dokáže, ale co by dělat měla, píše Sarah O’Connor v eseji o lidech, kteří bojují o budoucnost práce.Když profesor MIT Joseph Weizenbaum v polovině šedesátých let vytvořil jeden z prvních chatbotů, zažil krátce po sobě dvě obrovská překvapení. První spočívalo v tom, jak snadno uživatelé jeho primitivní program, který pojmenoval Eliza, začali vnímat jako člověka. „Nedošlo mi, že i velmi krátký kontakt s relativně jednoduchým počítačovým programem může u zcela normálních lidí vyvolat silné bludy,“ napsal ve své knize Computer Power and Human Reason (Síla počítačů a lidský rozum) z roku 1976.
Ještě víc ho však znepokojila jiná věc: jak rychle lidé začali přemýšlet o tom, co by taková technologie mohla jednoho dne dokázat, aniž se na okamžik zastavili a položili si otázku, co by vlastně dělat měla.
Výzkumníci ze Stanfordské univerzity například v roce 1966 publikovali studii, v níž navrhovali využít počítačový program podobný Weizenbaumově Elize coby formu psychoterapie. „Díky možnostem sdílení výpočetního času na moderních a budoucích počítačích by systém navržený k tomuto účelu mohl obsloužit několik set pacientů za hodinu,“ napsali.
Weizenbauma jímalo zděšení. Byl přesvědčen, že existují „určité lidské funkce, které by počítače nahradit neměly“.
