Искусственный интеллект

[timelets]

Спросил у Алексы, почему нет бумажных полотенец. Она ответила, потому что эпидемия коронавируса (нашла в интернете). Это один из лучших примеров хорошей предсказательной силы без понимания причин, т.е. современная версия Китайской Комнаты профессора Серла.

Comments

[timelets]

В том-то и дело, что мы не можем судить о характере связи. Например, если вирус распространяется фекально-оральным путем (fecal-oral route), как холера, то нехватка бумаги приводи к ухудшению гигиены и распространению вируса.

Just a thought: Alexa's answer fundamentally lacks agency. That is, an epidemic cannot cause the shortages because it's not an entity that does something. It's a word that describes various processes across multiple societies, some of which result in shortages of certain goods. The machine learning system detects the relationship between the words, rather than agents and their actions.

[dmm]

Это правда, но это потому, что мы более-менее в курсе, как она (скорее всего) устроена внутри...

Она могла бы быть и более пристойно сделана внутри и всё равно дать такой ответ - надо дольше её тестировать, чтобы выявить её непонимание без взгяда внутрь...

[timelets]

Это только начало определенной технологии. Одним из самых простых путей улучшения поиска/выдачи ответа было бы приоритизация (ranking) причинно-следственных описаний. Сири уже сейчас это делает лучше, чем Алекса. Возможно потому, что когда ответы выдаются списком, а не в единственном варианте, легче обучаться.