A chatbot kényelmes eszköz: megírja a vázlatot, elmagyarázza a matekot, segít udvariasabb üzenetet küldeni. A gond ott kezdődik, amikor már nem segítséget kérünk tőle, hanem igazolást, ítéletet, vigaszt vagy döntést.
A mesterséges intelligencia akkor is magabiztos, amikor hülyeségeket válaszol. Ugyanez a magabiztosság teheti félrevezetővé azt is, amikor valaki a ChatGPT-től, a Geminitől vagy a Claude-tól kér jelszót védelemhez. Biztonságosnak tűnik, de nem az.