Eftersom vi inte vet vad medvetande är eller hur det uppstår ter sig det målet som något verklighetsfrånvänt för att uttrycka sig milt. Så om man fokuserar på den potentiella faran istället för de faktiska skador som dessa system bidrar med idag har man skäl att se över sina prioriteringar.

Intelligens och medvetande förväxlas ofta men är helt olika begrepp. Vårt kunskapsläge rörande medvetande är förvisso extremt svagt, men medvetandefrågan har mycket lite eller inget alls med AGI-frågan att göra.