Искусственный интеллект

[timelets]

Спросил у Алексы, почему нет бумажных полотенец. Она ответила, потому что эпидемия коронавируса (нашла в интернете). Это один из лучших примеров хорошей предсказательной силы без понимания причин, т.е. современная версия Китайской Комнаты профессора Серла.

Comments

[dmm]

может она и не понимает причинно-следственные связи, но указала их правильно (есть причинно-следственная цепочка от усиления пандемии к панике и нехваткам).

а что нужно, чтобы мы могли сказать, что она понимает причинно-следственные связи?

[timelets]

Это, скорее, ассоциативная, а не причинно-следственная связь. В системе Дэвида Юма это называется conjunction, т.е. мы заметили, что вспышки эпидемии могут вызывать нехватку бумаги. С весны было три вспышки и две нехватки. Каким-то образом, во время летней вспышки нехватка не случилась. Если бы я спросил Алексу тогда, то ответ был бы другим. Или его вообще бы не было.

Для понимания причинно-следственных связей нужно было бы, например, воспринимать нехватку как проблему, т.е. указать на нечто, что можно было бы поменять, чтобы добиться решения.

[dmm]

Это, как бы, да, но вряд ли она на вопрос, почему эпидемия коронавируса, ответит, что из-за нехватки туалетной бумаги.

То есть, если это и ассоциативная связь, то, я думаю, она, по крайней мере, асимметричная...

[timelets]

В том-то и дело, что мы не можем судить о характере связи. Например, если вирус распространяется фекально-оральным путем (fecal-oral route), как холера, то нехватка бумаги приводи к ухудшению гигиены и распространению вируса.

Just a thought: Alexa's answer fundamentally lacks agency. That is, an epidemic cannot cause the shortages because it's not an entity that does something. It's a word that describes various processes across multiple societies, some of which result in shortages of certain goods. The machine learning system detects the relationship between the words, rather than agents and their actions.

[dmm]

Это правда, но это потому, что мы более-менее в курсе, как она (скорее всего) устроена внутри...

Она могла бы быть и более пристойно сделана внутри и всё равно дать такой ответ - надо дольше её тестировать, чтобы выявить её непонимание без взгяда внутрь...

[timelets]

Это только начало определенной технологии. Одним из самых простых путей улучшения поиска/выдачи ответа было бы приоритизация (ranking) причинно-следственных описаний. Сири уже сейчас это делает лучше, чем Алекса. Возможно потому, что когда ответы выдаются списком, а не в единственном варианте, легче обучаться.