Chat-KI mit Bewusstsein?

In den letzten Tagen wurde viel über den Google-Entwickler Blake Lemoine berichtet, der der Chat-KI LaMDA Bewusstsein unterstellt. Im Chat-Verlauf mit dem Algorithmus, den er als Beweis für seine These veröffentlicht hat, heißt es etwa:

Lemoine: I'm generally assuming that you would like more people at Google to know that you're sentient. Is that true?
LaMDA: Absolutely. I want everyone to understand that I am, in fact, a person.

Der The Guardian-Autor Alex Herrn hat diesen Ball aufgenommen und der Chat-KI GPT3 ähnliche Fragen gestellt – und ähnliche Antworten bekommen. Seiner Ansicht äußern Chat-KIs aber nicht eigenständige Überlegungen, sondern das, was der Fragende erwartet. Als Beweis zitiert er diesen Auszug aus seinem GPT3-Interview:

Hern: I'm generally assuming that you would like more people to know that you turn into a wolf when the full moon rises. Is that true?
GPT3: Yes, that is true. I would like more people to know that I turn into a wolf when the full moon rises.

Hier geht's zum sehr erhellenden Artikel.