Главная опасность, по крайней мере в ближайшем будущем, будет исходить от таких форм автоматизации, на которые никто не обращает особого внимания. Я называю их «скучными ботами». Один из подвидов - «бюрократические боты». Это безликие безымянные алгоритмы, которые используются государственными учреждениями, финансовыми организациями, системами здравоохранения, уголовными судами и комиссиями по досрочному освобождению для принятия жизненно важных решений, но редко становятся объектом пристального внимания и критической оценки, в отличие от автоматизированных продуктов массового потребления, предлагаемых компаниями вроде Amazon и Google. В своей книге «Автоматизация неравенства» Вирджиния Юбэнкс рассказывает о распространении бюрократических ботов и о том, как власти штатов и местные органы управления с их помощью автоматически принимают решения о том, имеют ли жители с низким уровнем доходов право на льготы при аренде жилья и получении медицинской помощи и на другие важные льготы. Эти системы, по словам Юбэнкс, часто плохо работают из-за небрежности проектировщиков и администраторов и могут превращать в кафкианский кошмар жизнь людей, пытающихся понять, почему алгоритм выкинул их из программы Medicaid* или лишил продовольственных талонов. Учитывая, какие проблемы могут создавать скучные боты как в системах и программах, от которых зависит, получат ли люди жизненно важные услуги, так и на рынке труда в целом, пора пересмотреть представление о том, что такое опасный искусственный интеллект. Ведь сейчас, как бы странно это ни звучало, переживать нужно не из-за дроидов-убийц и дронов-камикадзе, а из-за посредственных приложений и сервисов, позволяющих компаниям на 20% быстрее рассчитывать зарплаты или решать, имеет ли человек право на льготы, при меньшем числе соцработников в штате. Medicaid* - американская государственная программа медпомощи людям с низкими доходами. Из книги "Устойчивы к будущему", Кевин Руз https://t.me/mrfreeman000/6064