Kísérlet is bizonyítja, hogy az MI-re támaszkodó emberek nagyon bíznak abban, hogy igazuk van, akkor is, amikor a gép téved. Ez pedig nem jó jel.
A chatbot kényelmes eszköz: megírja a vázlatot, elmagyarázza a matekot, segít udvariasabb üzenetet küldeni. A gond ott kezdődik, amikor már nem segítséget kérünk tőle, hanem igazolást, ítéletet, vigaszt vagy döntést.