![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Jun. 9th, 2022
(no subject)
Jun. 9th, 2022 03:29 pmwrt https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities
via https://avva.dreamwidth.org/3291499.html
Actually, I'm on the Yudkowsky side of this debate from a purely pragmatic risk management perspective – methods to evaluate AGI-related risks are practically non-existent. It's a problem.
In addition, from what I've seen so far, on the most basic physical level ML-native systems perceive, i.e. "feel", the world differently than humans. This particular divergence is only going to grow over time and, eventually, the species-level gap is going to be huge. Therefore, there's a big chance that an AGI system will not understand humans at all — along the lines of Nagel's What it's like to be a bat? We don't kill bats because we don't understand them but we have no way to guarantee the same for AGI. Yet. Hopefully.
Finally, the objection avva references in response to Yudkowsky' concerns is intellectually inept, which only highlights the depth of the problem.
via https://avva.dreamwidth.org/3291499.html
Actually, I'm on the Yudkowsky side of this debate from a purely pragmatic risk management perspective – methods to evaluate AGI-related risks are practically non-existent. It's a problem.
In addition, from what I've seen so far, on the most basic physical level ML-native systems perceive, i.e. "feel", the world differently than humans. This particular divergence is only going to grow over time and, eventually, the species-level gap is going to be huge. Therefore, there's a big chance that an AGI system will not understand humans at all — along the lines of Nagel's What it's like to be a bat? We don't kill bats because we don't understand them but we have no way to guarantee the same for AGI. Yet. Hopefully.
Finally, the objection avva references in response to Yudkowsky' concerns is intellectually inept, which only highlights the depth of the problem.
Потемкинские стартапы
Jun. 9th, 2022 08:50 pmУжас в том, что русский царь — тупой бандит из питерской подворотни. Он не понимает фундаментальную разницу между созданием стратегического окна в Европу 18-го века и захватом разбомбленных территорий в 21-м. Поэтому Россия будет продолжать эту бессмысленную бойню, пока он не сдохнет.
Но есть и хорошие новости. Стартапы, что ему показывают как прорывные отвечают всем критериям, по которым не надо инвестировать в технологический бизнес. Они должны были быть отсеяны на уровне районного хакатона. Но в России их будут финансировать, потому что вокруг царя собрались такие же дебилы, как и он сам. Заодно и украдут сотню-другую миллиардов — чем больше, тем лучше.
Putin delenda est.
Но есть и хорошие новости. Стартапы, что ему показывают как прорывные отвечают всем критериям, по которым не надо инвестировать в технологический бизнес. Они должны были быть отсеяны на уровне районного хакатона. Но в России их будут финансировать, потому что вокруг царя собрались такие же дебилы, как и он сам. Заодно и украдут сотню-другую миллиардов — чем больше, тем лучше.
Putin delenda est.