Системная ошибка: «Stop код ошибки 0x00000018 (REFERENCE_BY_POINTER)»

Читайте также

Системная ошибка / Политика / Независимая газета

Качество знаний учащихся теперь проверяют с помощью малограмотных тестов по плохо продуманным процедурам.
Фото Евгения Зуева (НГ-фото)

1 января вступает в силу закон о Едином государственном экзамене, после чего процесс внедрения обретает должные масштаб и энергию. Правда, еще идут арьергардные бои. Только что Министерство образования и науки РФ обнародовало список вузов, которым в 2009 году не придется зачислять абитуриентов по итогам ЕГЭ: разрешено устраивать собственные вступительные испытания 24 вузам из 50, подававшим заявки. Впрочем, этот факт не должен вводить в заблуждение. Обращает на себя внимание, например, то, что в списке нет ни одного военного института или училища. Это более чем настораживает. И вот почему.

20 ноября в Совете Федерации состоялось большое совещание, на котором Сергей Миронов сообщил, что он принял решение о создании независимой комиссии. Ее цель – подготовка квалифицированного объективного заключения об эксперименте с ЕГЭ и возможных последствиях внедрения. «ЕГЭ – это системная ошибка», – считает Миронов.

Но если исходить из такого определения (системная ошибка – это цепь решений и действий, приводящих к деградации системы, ее частичному или полному разрушению), то вся образовательная политика последних лет, проводимая в России, – большая системная ошибка.

Ошибочность проводимой в образовании политики определяется теми скрытыми принципами, которые де-факто положены в ее основу. На мой взгляд, таких принципов пять.

Первое. Действует порочная система принятия решений, для которой характерны методы административно-командной системы управления, очевидным образом неприменимые в творческих сферах. Мнения профессиональных сообществ полностью игнорируются. Решения принимаются келейно крайне ограниченным кругом лиц. Содержательные дискуссии практически отсутствуют. Законодательное оформление умело продавливается независимо от степени разумности и профессиональности решений.

Во-вторых. Доминирует воинствующий экономизм. Господствует точка зрения на систему образования как на рынок образовательных продуктов и услуг. Результат – крайне раздутая система высшего образования, превратившаяся в черный рынок дипломов. Другой результат – разрушенные в силу их «нерентабельности» системы начального и среднего профобразования.

В-третьих. «Топ-менеджеры», командующие сегодня в образовании, далеки от понимания существа дела и исходят из предельно упрощенных моделей. Этим определяется характерный для «модернизации» образования безудержный формализм. Оказывается, качество знаний учащихся можно проверить с помощью малограмотных тестов по плохо продуманным процедурам. Качество работы учителя с точностью до рубля можно оценить по неким чудодейственным (часто анекдотичным) рецептам. А на формализованных методах поиска и отбора разработчиков можно выстроить тотальную систему грантов, конкурсов, тендеров, перемалывающую ресурсы и действующую на всех участников действа развращающе.

Четвертое. Особо следует выделить принцип вопиющей безответственности. В дореволюционной России существовала практика ежегодной публикации статистики, ежегодных отчетов на всех уровнях – от уездов до Министерства народного просвещения. В советское время полная безотчетность все-таки была исключена. Современные чиновники от образования не утруждают себя отчетами, ограничиваются краткими сообщениями о достигнутых успехах, жесткими инструкциями исполнителям. Отработана система вещания крупных деятелей в СМИ, но при этом они мастерски увиливают от публичных содержательных дискуссий.

И, наконец, пятый принцип можно назвать так: принцип непризнания ошибок.

Вообще-то при всей заметности ЕГЭ – это лишь небольшой эпизод из жизни системы образования. Но эпизод, ярко высвечивающий пороки системы. Я считаю, что создание независимой комиссии (фактически комиссии по расследованию) может стать важным событием. Впервые за долгие годы появляется шанс на исправление явных ошибок. Либо будет продолжена порочная политика в образовании, либо будет намечен курс на подлинное развитие.

Да: наиболее ретивым «модернизаторам» придется нести ответственность. Да: признавать ошибки – дело трудное. В этой связи сторонникам сохранения политического лица любой ценой должен напомнить следующее.

Помимо личных интересов есть интересы национальные. Даже в армии есть понятие преступного приказа и соответствующие формы ответственности. Наконец, существует суд истории, а также понятия чести, репутации, доброго имени.

Локальный вопрос о ЕГЭ перешел в политическую плоскость. Есть ли в современной России исторически ответственные власть и общество?

Комментарии для элемента не найдены.

Принтеры серии HP Designjet 500/510/800 — системная ошибка 21:10

Введение.

В настоящем документе описывается общая процедура поиска и устранения системной ошибки с кодом 21:10 или 21:11. Данная системная ошибка относится в основном к сервисной станции. Однако в некоторых случаях она может быть вызвана и другими компонентами.

Следуйте указаниям из списка ниже, чтобы произвести точное устранение проблемы.
Поиск и устранение неисправности.

1. Отключите шнур питания.

2. Откройте верхнее окно.

3. Вручную переместите каретку влево (за пределы сервисной станции).

ПРИМЕЧАНИЕ. Если каретка не передвигается влево, НЕ ПЫТАЙТЕСЬ СДВИНУТЬ ЕЕ СИЛОЙ. Попробуйте перезагрузить устройство несколько раз. Проверьте, может ли каретка выйти автоматически при попытке запуска. При выходе каретки немедленно отключите шнур питания. Если после этих действий каретка ВСЕ ЕЩЕ не в состоянии выйти, обратитесь в службу технической поддержки за указаниями по разблокировке каретки.

4. Проверьте путь каретки на наличие видимых препятствий (область печати и сервисная станция).

ПРИМЕЧАНИЕ. Если каретка в состоянии переместиться влево, вручную передвиньте ее из стороны в сторону несколько раз, чтобы убедиться, что на ее пути отсутствуют препятствия.

• Проверьте состояние ремня каретки (он должен быть натянут и не изношен или поврежден)
• Очистите и смажьте (машинным маслом) стержень каретки.
• Проверьте состояние трейлинговых кабелей — они должны быть плоскими и передвигаться свободно следом за кареткой.
• Очистите (не царапая поверхность) ленту позиционирования каретки (с помощью неабразивной чистящей жидкости и безворсовой ткани).

ВАЖНО! Повреждение ЛЮБОЙ из перечисленных деталей будет означать ее замену, поскольку может привести к снижению качества работы, ошибкам или появлению сообщений.

5. Извлеките из каретки все ПЕЧАТАЮЩИЕ ГОЛОВКИ.

ПРИМЕЧАНИЕ. Для того чтобы извлечь печатные головки, откройте синюю защелку в верхней части каретки и поднимите крышку каретки. Поднимайте печатные головки за синюю ручку. После их извлечения тщательно закройте крышку каретки (синяя защелка должна входить в фиолетовый крючок), затем оставьте каретку в центре направляющих принтера. Закройте окно.

6. Подключите шнур питания.

7. Перезапустите принтер.

ПРИМЕЧАНИЕ. Если процедура прошла нормально, то вместо системной ошибки принтер выдаст запрос о печатающих головках. Если принтер вновь покажет системную ошибку, отключите питание на несколько секунд, вновь подключите и перезагрузите принтер. При необходимости повторите эту процедуру не менее трех раз. Если системная ошибка сохраняется после нескольких процедур перезагрузки, скорее всего, необходимо заменить сервисную станцию.

8. При появлении запроса верните печатающие головки на место.

ПРИМЕЧАНИЕ. После появления запроса на печатающие головки нажмите клавишу «ENTER», чтобы начать процедуру установки головок. Каретка автоматически выйдет из сервисной станции. На дисплее отобразится запрос на открытие окна и продолжения процедуры установки головок. Установив головки, тщательно закройте крышку каретки (передвигать каретку не нужно) и окно обслуживания.

ВАЖНО! На каждой печатающей головке указана дата истечения срока годности. Головки с истекшим сроком годности могут вызывать системную ошибку. Если при замене появится сообщение об отклонении печатной головки или если принтер не в состоянии будет завершить выравнивание печатных головок, необходимо будет заменить печатные головки с истекшим сроком годности новыми, с действующей гарантией. Если проблема решена, но время от времени сообщение об ошибке продолжает появляться, также необходимо заменить головки.

9. Если проблема устранена, проверьте работу устройства.

10. Если проблема не устранена, выполните обновление МИКРОПРОГРАММЫ.

ПРИМЕЧАНИЕ: Это обновление рекомендуется проводить ТОЛЬКО в качестве последней меры, и ТОЛЬКО если установленная версия микропрограммы не является самой новой. С другой стороны, при наличии новых версий микропрограммы вы можете в любой момент обновить ее. Это поможет улучшить работу устройства.

ВАЖНО! Для модели DJ 500 рекомендуется перед обновлением микропрограммы извлечь карту HPGL2 (при ее наличии). Для этого снимите крышку отсека карты с тыловой части левой крышки. Открутите два винта, крепящие карту HPGL2 к блоку электроники. Извлеките карту.

Для обновления микропрограммы выполните следующие действия (они сработают только в случае, если принтер подключен к компьютеру через USB).

a. Загрузите (www.hp.com/bizsupport), сохраните и распакуйте файл обновления на вашем компьютере.

b. Убедитесь, что принтер находится в режиме SPECIAL X MODE (это необходимо, поскольку принтер не может перейти в режим готовности).

• Отсоедините шнур питания.
•Нажмите кнопку «CANCEL».
• Переподключите шнур питания (не отпуская кнопку «CANCEL»).
• Дождитесь появления на дисплее мигающего символа «X».

c. Запустите распакованный выполняемый файл. Программа будет установлена и выполнит автоматический поиск принтера.

d. Для установки обновления следуйте инструкциям.

e. После завершения обновления на передней панели появится сообщение о необходимости отключения принтера.

f. Отключите принтер, подождите несколько секунд и подключите его снова.

ВАЖНО! Если принтер может перейти в состояние готовности в любой момент, то НЕТ никакой необходимости переводить принтер в режим SPECIAL X MODE. Он будет найден через USB или через сеть.

11. Если даже после выполнения всех предыдущих шагов проблема сохранится, если у вас есть сомнения или вопросы, или требуется дополнительная помощь, обратитесь к вашему представителю HP или в службу технической поддержки HP.

Дмитрий Заваров «Системная ошибка»

Рейтинг

Средняя оценка:

7.75

Оценок:

4

Моя оценка:

—

подробнее

Язык написания: русский

Аннотация:

Технология вживления компьютерных микрочипов в мозг вывела цивилизацию на новый уровень развития. Научная разработка, изначально предназначенная для лечения патологий центральной нервной системы, быстро превратилась в «нейрофон» — модный гаджет, открывающий перед владельцами все прелести виртуальной реальности.

Петр Фролов, сотрудник службы безопасности фирмы-производителя нейрофонов, случайно получает доступ к секретным данным: компания обладает полным контролем над разумом пользователей, а сама технология имеет неземное происхождение.

Какие цели преследуют создатели нейрофонов? Этот вопрос отходит на второй план: Фролов объявлен вне закона, на него начинается настоящая охота, и убить его — первоочередная задача для любого носителя гаджета.

Входит в:

— цикл «Гаджет»



2018 г.

Доступность в электронном виде:

 

Отзывы читателей

Рейтинг отзыва

---

Написать отзыв:

Писать отзывы могут только зарегистрированные посетители!Регистрация

Системная ошибка — Большая Энциклопедия Нефти и Газа, статья, страница 1

Системная ошибка

Cтраница 1

Системные ошибки, обусловленные неправильным пониманием требований задачи и условий ее реализации в АСУ.  [1]

Системные ошибки в управляющих алгоритмах определяются, прежде всего, неполной информацией о реальных процессах, происходящих в управляемых объектах и источниках информации. Кроме того, эти процессы зачастую зависят от самих управляющих алгоритмов и поэтому не могут быть достаточно точно определены заранее без исследования алгоритмов во взаимодействии с управляющей ЦВМ.  [2]

Системная ошибка формируется и протекает, с точки зрения ее участников, как конфликт целей и средств управленческой деятельности. Имеются в виду цели индивидуальные и групповые. В конкретной управленческой практике целью является образ желаемого будущего.  [3]

Системные ошибки, доля которых от общего числа ( выявленных ошибок составила 33 5 % иа системе А и 46 2 % а системе Б, являются следствием, прежде всего, неполной информации — о реальных процессах, происходящих в управляемых объектах: и источниках информации.  [5]

Системная ошибка: устройство Газовый кран не может быть закрыто, потому что произошла ошибка горелки: погасло пламя.  [6]

Основная масса системных ошибок может быть обнаружена путем последовательного методичного исследования управляющих алгоритмов при различных внешних условиях. Широкое применение подыгрыша и имитации внешних абонентов методами математического и натурного моделирования позволяет в большинстве случаев осуществлять весьма широкое изменение внешних условий функционирования алгоритмов и выявлять ошибки в наиболее типовых и массовых режимах работы. Однако полной адекватности моделей реальной системе добиться трудно, а во многих случаях и невозможно, что является причиной значительного количества ошибок в алгоритмах и программах. Последующая отладка с использованием реальной системы позволяет уменьшить количество ошибок, однако и в процессе эксплуатации серийно изготовленных управляющих систем, благодаря расширению ситуаций по внешним условиям функционирования, может происходить выявление системных ошибок. Поэтому организация эксплуатации управляющих ЦВМ должна обеспечивать возможность выявления и корректировки ошибок в процессе эксплуатации данного экземпляра ЦВМ и распространение корректировки на все выпущенные ЦВМ с алгоритмом данного типа.  [7]

В обоих случаях источником системной ошибки является подозрение на испытанное в прошлом вредное воздействие. Больные люди могут считать, что их болезнь обусловлена их производственной деятельностью и, следовательно, будут пытаться вспомнить по возможности более подробно все вредные факторы, с которыми они могли контактировать. В случае если они не могут определить продукцию, с которой они контактировали, они склонны упоминать наименования других веществ, особенно если список подозреваемых веществ им известен. Напротив, члены контрольной группы, по-видимому, не будут так тщательно все вспоминать и обдумывать.  [8]

Задачи обнаружения и исправления сложных алгоритмических и системных ошибок в настоящее время недостаточно формализованы и решаются в основном методами тестирования и статистической отладки на этапах системной отладки и опытной эксплуатации комплекса программ.  [9]

После запуска программы, регистрирующей системные ошибки, и разрешения регистрации в системе заданий пользователей система полностью готова к нормальной работе в режиме разделения времени.  [10]

Производится измерение диаметра вала без системных ошибок. Случайные ошибки подчинены нормальному закону с D () 100 мм.  [11]

Таймер СОР осуществляет защиту от системных ошибок путем выхода из неожидаемых входных условий, внешних событий или программных ошибок. Начинающий работу одновременно с процессором, таймер СОР должен быть программно сброшен — иначе возникает переполнение таймера, генерируется внутренний сброс и выбирается вектор сброса СОР. Это означает, что из текущей программы не был осуществлен сброс СОР и произошла системная ошибка.  [12]

Области, которые остаются недоступным-и из-за системной ошибки при восстановлении их по журналу команд, могут быть восстановлены администратором с помощью независимых программ восстановления по журналу программы и журналу работы с базой.  [13]

ДИАМС использует инструкцию TRAP для всех программных и системных ошибок.  [14]

Это почти сработает, но сгенерирует системную ошибку, подобную рассмотренной в предыдущем разделе. На этот раз частные определения приведут к тому, что компоновщик свяжет реализации этих классов; проблема в том, что поточная система передачи должна знать имена классов для того, чтобы определять местонахождение ссылки класса, требуемой для конструирования компонентов в ходе загрузки DFM-файла.  [15]

Страницы:      1    2    3    4

Как большие технологии разрушили все и почему мы должны перезагрузиться Мехран Сахами

Имя Ваш яд: корпоративная жадность или политическая некомпетентность?

По словам трех авторов из Стэнфордского университета, Америка в частности и мир в целом стоят перед жестким выбором. Либо мы позволим предпринимателям и венчурным капиталистам Кремниевой долины создать технократическую антиутопию массового заблуждения и слежки; или мы создаем альтернативный, столь же антиутопический, бюрократический режим корпоративного регулирования, чтобы остановить этих жадных людей, производящих экономические и социальные внешние эффекты, которые

Имя Ваш яд: Корпоративная жадность или политическая некомпетентность?

По словам трех авторов из Стэнфордского университета, Америка в частности и мир в целом стоят перед жестким выбором.Либо мы позволим предпринимателям и венчурным капиталистам Кремниевой долины создать технократическую антиутопию массового заблуждения и слежки; или мы создаем альтернативный, столь же антиутопический, бюрократический режим корпоративного регулирования, чтобы остановить этих жадных людей, производящих экономические и социальные экстерналии, которые сейчас становятся все более очевидными. На самом деле выбор не велик. Но авторы хотят, чтобы мы оставались оптимистами.

Все трое согласны с тем, что дело в ценностях и жертвах ради одних ценностей, которые необходимо принести для продвижения других.Им явно не нравятся такие компромиссы сегодня. Технократы заботятся только о зарабатывании денег. Между тем внешние эффекты, вызванные их успехом, наносят ущерб огромному количеству людей, особенно тем, кто уже находится на обочине общества. Они предполагают, что ответственные технари и техподдержки должны осознавать эти внешние факторы и действовать, чтобы смягчить их. Они также хотели бы, чтобы остальные из нас, не вовлеченные в отрасль, вернулись к размышлениям о том, что на самом деле означает общее благо.Но в основном они настаивают на том, чтобы правительство приняло меры по обузданию капиталистических эксцессов и совершенствованию государственных технологических навыков. На самом деле они пишут о перезагрузке всего общества, а не только отрасли.

Иногда кажется, что авторы хотят взорвать капитализм. С другой стороны, они, кажется, верят в потенциал божественно всеведущей силы демократического правительства, способной рационально просеять хитросплетения тайных технологий, чтобы выявить и решить потенциальные проблемы.И они, безусловно, хотят, чтобы все мы убедились в том, что, по их мнению, является наиболее важным в технологиях. Но когда дело доходит до явных действий, которые могут быть полезными, они становятся очень расплывчатыми, если не сказать ребяческими. В своих руках и размахивании флагом о ценностях, компромиссах и «использовании технического прогресса для служения, а не подрыва интересов отдельных лиц и обществ», они мало что выявляют.

Например, они хотят дебатов.Мне совершенно непонятно, о чем будут эти дебаты, кто будет их организовывать и участвовать в них, где они будут проходить. Им нужен какой-то руководящий орган для программистов и инженеров, что-то вроде высокотехнологичной Американской медицинской ассоциации, которая выдавала бы лицензии на практику или, по крайней мере, создавала бы этические кодексы и обеспечивала их соблюдение. Им нужны регулирующие органы и прокуроры, которых не пугает политическая власть крупных технологических компаний. Они хотят прекратить саморегулирование, усилить защиту данных, продвигать капитализм заинтересованных сторон, жестко ограничить инсайдерскую торговлю акциями, безжалостно возбуждать антимонопольные иски.Но они предоставляют мало подробностей о том, кто, что и где из всего этого.

В последней главе авторы переходят от опасений по поводу понимания капитализма к опасениям по поводу неумелых демократических политиков, агентств и институтов. Они, кажется, неявно признают, что внешние эффекты, непреднамеренные последствия государственного вмешательства в отрасль также реальны. «Несмотря на наш энтузиазм в отношении роли демократии в управлении технологиями, наши демократические институты не всегда внушают большие надежды», говорят они.Здесь они становятся немного более конкретными. Они хотели бы, чтобы Управление технологической экспертизы было воссоздано на уровне президента. Но могут ли они или кто-либо еще действительно поверить в то, что такой правительственный орган сможет гораздо менее прямо или даже положительно повлиять на работу десятков тысяч технологических предпринимателей и их сторонников, не говоря уже о крупных авторитетных корпорациях? Помимо прочих трудностей, вращающаяся дверь должна была бы иметь огромную пропускную способность!

Короче говоря, в книге нет ничего нового и ничего старого, что стоило бы повторить еще раз, за ​​исключением нескольких самооправдательных историй о войне.Подобные совместные усилия часто опускаются до уровня прозаической посредственности. Это могло бы стать классикой жанра. Или, возможно, как преподаватели Стэнфорда, они боятся слишком сильно кусать руку, которая их кормит. Их работодатель не только физически находится в центре проблем, о которых они хотят, чтобы мы знали, но и получает большое финансирование от людей, создающих эти проблемы. И кстати, эти ребята вместе со своими коллегами и учениками не помогали создавать эти проблемы в первую очередь? Так что, возможно, некоторая двусмысленность и легкомыслие благоразумны.В учительской будет спокойно. Комитет по наследию Стэнфорда продолжит получать (и зарабатывать) большие деньги. И, несомненно, студенты продолжат записываться на занятия, не опасаясь прослыть интеллигентными социальными паразитами. Так что в результате этого легкого сигнала добродетели ничего не изменится.

Учебное пособие — коды ошибок системы отладки — приложения Win32

• Статья
• 24.11.2021
• 2 минуты на чтение

Полезна ли эта страница?

Пожалуйста, оцените свой опыт

да Нет

Любая дополнительная обратная связь?

Отзыв будет отправлен в Microsoft: при нажатии кнопки отправки ваш отзыв будет использован для улучшения продуктов и услуг Microsoft.Политика конфиденциальности.

Представлять на рассмотрение

В этой статье

Этот раздел предназначен для разработчиков, занимающихся отладкой системных ошибок. Если вы попали на эту страницу во время поиска других ошибок, вот несколько ссылок, которые могут помочь:

Другие способы найти код ошибки

В этом разделе мы перечислили коды системных ошибок, упорядоченные по номерам.Если вам нужна дополнительная помощь в отслеживании конкретной ошибки, вот еще несколько рекомендаций:

Коды ошибок сторонних производителей

Другие коды ошибок могут генерироваться сторонними службами или приложениями (например, Код ошибки: -118 может отображаться игровой службой Steam), и в таких ситуациях вам следует обратиться в службу поддержки стороннего поставщика.

Коды системных ошибок

Коды системных ошибок

очень широки: каждый из них может возникать в одном из многих сотен мест в системе.Следовательно, описания этих кодов не могут быть очень конкретными. Использование этих кодов требует некоторого исследования и анализа. Вы должны отметить как программный контекст, так и контекст времени выполнения, в котором возникают эти ошибки.

Поскольку эти коды определены в WinError.h для использования любым пользователем, иногда коды возвращаются несистемным программным обеспечением. А иногда код возвращается функцией глубоко в стеке и далеко от кода, обрабатывающего ошибку.

В следующих разделах приведены списки кодов системных ошибок.Эти значения определены в заголовочном файле WinError.h.

Системная ошибка: где большие технологии пошли не так и как мы можем перезагрузить

В мгновение ока наивный оптимизм в отношении освободительного потенциала технологий уступил место антиутопической одержимости предвзятыми алгоритмами, капитализмом наблюдения и рабочими местами. вытесняющие роботы. Тем не менее слишком немногие из нас видят какую-либо альтернативу принятию поступательного движения технологий. Мы просто приняли технологическое будущее, созданное для нас технологами, венчурными капиталистами, которые их финансируют, и политиками, которые дают им полную свободу действий.

Так быть не должно.

Системная ошибка

обнажает корень нашего нынешнего затруднительного положения: как неустанное внимание крупных технологий к оптимизации ведет к будущему, которое усиливает дискриминацию, разрушает конфиденциальность, вытесняет сотрудников и загрязняет информацию, которую мы получаем. Это мышление оптимизации заменяет то, что заботит компании, ценностями, которые мы, как демократическое общество, могли бы сделать приоритетными. Оптимизаторы с благими намерениями не в состоянии измерить все, что имеет смысл, и, когда их творческие прорывы достигают больших масштабов, они навязывают свои ценности остальным из нас.

Вооруженные пониманием того, как технологи думают и используют свою власть, три профессора Стэнфорда — философ, работающий на стыке технологий и этики, политолог, работавший при Обаме, и директор программы бакалавриата по информатике в Стэнфорде (также один из первых инженеров Google) — покажите, как мы можем использовать эту силу.

Обеспокоенные ценностями, которые пронизывают студенчество университета и его культуру, они работали вместе, чтобы наметить новый путь вперед, создав популярный курс, чтобы изменить подход технологов завтрашнего дня к своей профессии.Теперь, когда доминирование больших технологий становится взрывоопасной социальной загадкой, они делятся своими провокационными идеями и конкретными решениями, чтобы помочь всем понять, что происходит, что поставлено на карту, и что мы можем сделать, чтобы контролировать технологии, а не позволять им контролировать нас.

Icarus Films: системная ошибка

«На какое-то время выигрывают все». –Стюарт Коули, бывший управляющий фондом Уолл-Стрит

«Ограничений нет. Предел — это небо», — говорит животновод, работающий на огромном кормовом участке, вырубленном в вырубленных бразильских тропических лесах.

«Рост — это закон природы, и мы не можем идти против него», — говорит руководитель отдела производственной стратегии Audi, пока роботы выполняют сложные, казалось бы, хореографические движения позади него на автоматизированном сборочном заводе.

Сидя за своим столом, глава самой могущественной промышленной лоббистской группы Германии говорит: «Рост будет продолжаться, несмотря ни на что… Для меня это так же неизменно, как гравитация».

Бесконечный рост — принцип капитализма: большие рынки, больше продуктов, новые услуги. Но может ли это действительно продолжаться вечно? Или мы собираемся наткнуться на его пределы? А если да, то что тогда?

Снятый в США, Бразилии, Китае, Германии и Великобритании фильм «СИСТЕМНАЯ ОШИБКА» исследует идею бесконечного роста в разговорах с такими защитниками, как бразильский соевый магнат, алгоритмический трейдер, финансовые журналисты и руководители транснациональных корпораций — часто позволяя камерам катятся, в то время как сами интервьюируемые предлагают, казалось бы, противоречивые или бессвязные аргументы.(В «СИСТЕМНОЙ ОШИБКЕ» также ненадолго появляется финансист и бывший сотрудник Трампа по связям с общественностью Энтони Скарамуччи, который называет себя «художником капитала» и разъясняет немыслимость прекращения роста.)

Фильм разделен на главы по таким темам, как аморальность ВВП, деструктивное сельское хозяйство, финансиализация, отделение финансов от реальной экономики и автоматизация. Каждая глава начинается с соответствующей цитаты из Карла Маркса, а также содержит проницательный комментарий экономиста-эколога и сторонника устойчивого развития Тима Джексона, который служит проводником, предлагая четкие объяснения иногда сложных концепций.

Отмеченный наградами режиссер Флориан Оптим (СКОРОСТЬ, В ПОИСКАХ ПОТЕРЯННОГО ВРЕМЕНИ и БОЛЬШАЯ ПРОДАЖА) использует великолепные снимки Земли с Международной космической станции, чтобы тонко прокомментировать конечную природу планеты. Кроме того, оператор Энди Леманн создает блестяще снятые сцены: огромный сборочный завод Airbus; интерьер переполненного сарая на птицеводческом предприятии, производящем более 15 миллионов птиц в год; пекинская пробка, а вдалеке покрытые дымкой многоэтажки.

СИСТЕМНАЯ ОШИБКА уводит нас от истоков ожидания неограниченного роста, особенно в годы после Второй мировой войны, до финансового краха 2008 года и далее. Означает ли последующее десятилетие одновременного неравенства, жесткой экономии и резкого роста рынков, что система оторвалась от реальности? И, сосредоточившись на росте любой ценой, создали ли мы систему, которая ускользает от нашего контроля и может нас уничтожить?

«Настоятельно рекомендуется; вдумчивая критика.Опрос экспертов, включая экономистов, промышленников, менеджеров хедж-фондов, фермеров, инженеров и т. д., System Error исследует взлеты и падения политики, направленной на постоянный рост. Хороший учебник для всех, кто хочет увидеть некоторые из этих вопросов в более широком контексте для лучшего понимания». — Видеобиблиотекарь

“ A n совершенно потрясающий документальный фильм: умный и взвешенный и полный необходимой информации. — TrustMovies

“ Очень хорошо сделанный фильм, с впечатляющей операторской работой и отличными интервью… Безумие роста ясно и точно! Идеально. » —DLF Kultur

«В равной степени занимательное и познавательное [исследование] капитализма». — Нереальное ТВ

“ Большой паноптикум о сложной жизни на нашей планете. » —КиноКино

» В System Error двукратный лауреат премии Grimme-Preis Award Флориан Опиц разрушает пределы роста и исследует тезисы критиков капитализма с помощью впечатляющих примеров. ” —Finanz Nachrichten

“ Системная ошибка показывает, что рост по-прежнему осуществляется вслепую. ” — Журнал «Компрессор»

“ Фильм демонстрирует абсурдность постоянно растущего капитализма. ” —Мюнхен Меркьюри

ЛОЛА на БЕРЛИНАЛЕ

Международный фестиваль документального кино в Амстердаме (IDFA) 2019

33-й ДОК.фестиваль Мюнхен

SWR DOKU FESTIVAL 2018 — Лауреат премии STZ Leserjury

Что не так с большими технологиями? Три профессора Стэнфорда думают, что знают.

СИСТЕМНАЯ ОШИБКА
Где большие технологии пошли не так и как мы можем перезапустить
Роб Райх, Мехран Сахами и Джереми М. Вайнштейн

Остановите меня, если вы слышали это: Философ, компьютерный инженер и парень из правительства заходит в бар и читает нам очень подробную и ошеломляющую лекцию о том, что нам нужно делать с технологиями, их мощью и разрушительными непреднамеренными (и часто вполне преднамеренными) последствиями их изобретений.

Это благородное усилие, но где-то на середине этой книги трех профессоров из Стэнфорда я почувствовал, что, возможно, именно мне нужна крепкая выпивка, учитывая непрекращающийся натиск исследований, фактоидов и примеров слишком широкого круга проблемы, с которыми сталкивается наша страна и мир из-за растущей гегемонии технологических компаний и их продуктов.

Не поймите меня неправильно, очень важно, чтобы мы установили больше связей между технологиями и остальным миром, тем более, что они проникают во все: от политики до развлечений и коммуникаций, от путешествий до того, как мы влюбляемся.И важно осознавать, насколько мы стали извращенными, злыми и безнадежно зависимыми, отчасти из-за потока злонамеренной информации, которая течет через устройства и гаджеты, без которых мы теперь не можем жить.

Это побудило авторов — Роба Райха, Мехрана Сахами и Джереми М. Вайнштейна — объединиться в Стэнфорде для создания междисциплинарного курса бакалавриата под названием «Этика, государственная политика и технологические изменения». Его цель, по описанию школы, состоит в том, чтобы «исследовать этическое и социальное влияние технологических инноваций, объединяя гуманитарные науки, социальные науки и информатику», а затем «осуществить фундаментальный сдвиг в том, как учащиеся, независимо от их выбора. и каким бы ни был их профессиональный путь, подумайте о своей роли в качестве движущих сил и формирователей технологических изменений в обществе.

Что ж, запишите меня — за исключением того, что в виде книги, а не в течение всего семестра, это становится перечнем очень важных вопросов, каждый из которых должен быть (и был) предметом отдельной книги. К ним относятся, среди прочего: искусственный интеллект, алгоритмы, распознавание лиц, беспилотные автомобили, конфиденциальность, разжигание ненависти и очевидная коррупция, встроенная в венчурную систему капитализации. Появляется даже сойлент, напиток, изобретенный для того, чтобы свести к минимуму потребность в приготовлении пищи.

Если это и звучит как чтение насыщенного событиями учебного плана, то это именно так, за исключением того, что нужно провести время в прекрасном кампусе Пало-Альто. Объединение всех этих тем в одну книгу придает ей такое качество материала, как «моргнешь и пропустишь», хотя для тех, кто не знаком, «Системная ошибка», безусловно, служит очень хорошо написанным, хотя и поверхностным, учебником для начинающих. все, что нам нужно знать о влиянии технологической индустрии.

Опять же, может быть, авторам стоит поаплодировать за их порыв вообще написать книгу, до такой степени, что она побуждает читателей думать не только об однократном компьютерном обучении, которое основано на эффективности и оптимизации, а не на этической строгости.Big Tech превозносит до тошноты способность быстро расти и бесконечно масштабироваться, вместо того, чтобы задаваться вопросом, должны ли мы делать какой-то продукт и как. В отрасли редко понимают последствия и берут на себя ответственность за их инновации, и именно так проблема видоизменяется туда, где мы находимся.

Авторы — те, кто учит этих вундеркиндов — понимают, что должен быть некоторый саморефлексия, нахождение промежуточного звена между технологическим бустеризмом и технолэшем.Но, разыгрывая проблемы, они предоставляют только одну короткую главу о решениях, опять же, как контрольный список, и слишком легкий, чтобы дать читателям почувствовать, что они могут многое сделать с грузовым поездом Силиконовой долины, направляющимся в их сторону. Когда проносятся сложные технические фразы, такие как «блиц-масштабирование», «парадокс конфиденциальности», «OKR» и «успех-катастрофа», трудно представить, что с этим можно что-то сделать, кроме как включить iPhone и прокрутить Twitter.

Другими словами, сейчас я возьму этот Сойлентини.

Системная ошибка для успеха системы

Крупные технологические компании стали неотъемлемой частью многих наших повседневных дел: как мы поддерживаем связь с друзьями и семьей, как мы находим информацию и как мы получаем новости о текущих событиях.В то же время эксперты говорят, что крупные технологические компании слишком сложны, чтобы их можно было разбить, и это будет иметь далеко идущие последствия.

Однако, по мнению трех стэнфордских профессоров, имевших большое значение в развитии технологий, та же самая технология, которую можно использовать во благо, приносит в жертву фундаментальные человеческие ценности и подрывает конфиденциальность и демократию. Однако еще не поздно внести изменения. Фактически, эти эксперты говорят, что общество должно действовать сейчас, чтобы уменьшить контроль крупных технологий. Роб Райх, Мехран Сахами и Джереми Вайнштейн написали манифест «Системная ошибка : где большие технологии пошли не так и как мы можем перезагрузить », в котором описывается проблема.В книге подробно рассказывается, как одержимость крупных технологий оптимизацией и эффективностью приносила в жертву фундаментальные человеческие ценности, и предлагаются потенциальные решения и план того, что мы можем сделать сегодня, чтобы контролировать технологии — вместо того, чтобы позволить им контролировать нас.

В четверг, 23 сентября, в 14:00 по восточноевропейскому времени присоединяйтесь к генеральному директору New America Анн-Мари Слотер и старшему советнику Сесилии Муньос в круглом столе с Райхом, Сахами и Вайнштейном, где они обсуждают, как большие технологии прокладывают путь к будущему. это усиливает дискриминацию, разрушает конфиденциальность, вытесняет работников и загрязняет доступную нам информацию.Они также расскажут, как мы, как общество, можем привлечь к ответственности крупные технологические компании, и предложат конкретные решения, которые мы можем использовать, чтобы обуздать их контроль.

Докладчики:

Роб Райх, @robreich
Директор Центра этики общества Стэнфордского университета
Содиректор Центра филантропии и гражданского общества
Заместитель директора Института человекоориентированного искусственного интеллекта

Мехран Саам , @mehran_sahami
Один из первых сотрудников Google, который помог изобрести технологию фильтрации спама в электронной почте.В настоящее время он является младшим заведующим кафедрой образования факультета компьютерных наук Стэнфордского университета.

Джереми М. Вайнштейн
Запустил программу «Открытое правительство» администрации Обамы. В настоящее время он является профессором политологии в Стэнфордском университете, где возглавляет Stanford Impact Labs, крупную университетскую инициативу, объединяющую исследовательские группы с лидерами государственного, частного и социального секторов для решения важных социальных проблем.

Модераторы:

Модераторы:

Убой в Анне-Мари, @ssheraM

10 Генеральный директор, New America

CECILIA MUñOZ , @CECMUNOZ 10 Старший советник для New America

Tara McGuinness , @taradmcguinness
основатель, новая практика Lab

Где большие технологии пошли не так и как мы можем перезагрузить

Uri: Здравствуйте.Я рад быть здесь сегодня с тремя стэнфордскими профессорами — философом Робом Райхом, политологом Джереми Вайнштейном и специалистом по информатике Мехраном Сахами — авторами новой книги «Системная ошибка : где большие технологии пошли не так и как мы можем перезагрузить ». Большое спасибо всем за то, что вы сегодня здесь.

Мы сыграем в очень простую игру, которую мы называем Последнее слово , где мы просим вас ответить на сложные вопросы, используя очень определенное количество слов. Роб, мы начнем с тебя.Не могли бы вы рассказать нам, о чем эта книга в ровно десять слов?

Роб: [улыбается] Хорошо: [считает на пальцах] Оживление демократических институтов посредством разумного регулирования больших технологий.

Ури: Это было фантастически

Джереми: Вау

Ури: Очевидно, что взаимосвязь между большими технологиями и демократическим процессом, а также наши ценности как общества — очень важная тема для всех в наши дни. , хотя часто с большим количеством звука, чем света.Мне интересно, можете ли вы рассказать нам о трех точках зрения, которые вы привносите в нее, и о том, чего вы надеетесь достичь с помощью книги.

Джереми: Итак, позвольте мне начать с ответа Роба из десяти слов: в данный момент многие люди в Соединенных Штатах и ​​во всем мире чувствуют, что влияние технологий омывает их. Что это волна, на формирование или влияние которой вы не имеете права. И мы считаем, что нам нужно развернуть эту дискуссию и признать, что у людей есть глубокая свобода действий — как у технологов, разрабатывающих технологии, как у пользователей технологий, как у граждан демократического общества — и что, в конечном счете, эффекты технологий — это то, что мы может повлиять, повлиять, обеспечив отражение наших ценностей в технологии, как она разработана, и повлиять, формируя способ, которым правительство смягчает вред технологий, которые окружают нас повсюду.

Мехран: Я думаю, что часть послания книги также заключается не только в том, чтобы мыслить в целом, но и в понимании деталей технологии и того, как они влияют на жизнь людей. Такие вещи, как автоматизированное принятие решений, которые теперь используют методы ИИ для принятия важных решений в жизни людей; что произойдет с будущим работы по мере масштабирования ИИ; вопросы, связанные с конфиденциальностью, поскольку информация о нас собирается и агрегируется в Интернете; и, наконец, то, с чем многие люди знакомы, дезинформация и дезинформация, которые распространяются через социальные сети.Таким образом, возможность дезагрегировать эти технологии и понять действующие силы создает большую актуальность в отношении того, почему нам нужно что-то с ними делать.

Роб: Суть книги в том, что после четырех лет совместного преподавания в Стэнфорде — так сказать, в чреве зверя Силиконовой долины — мы хотели попытаться расширить разговор, пытаясь достичь действительно талантливые студенты используют технологическую линзу, линзу политики и линзу философии, чтобы расширить разговор.

И, как описал Джереми, в книге есть ответы определенного рода на дилеммы или проблемы больших технологий, но они не являются планом политики — «если бы только Конгресс принял наши ответы, все чудесным образом стало бы намного лучше» — скорее, это способ сформировать новый разговор и новую основу для размышлений о компромиссах, которые закодированы в различных продуктах, которые Силиконовая долина и большие технологии принесли миру, и гарантировать, что решения, принимаемые в корпоративные залы заседаний и жизненные циклы разработки продуктов крупных технологических компаний не являются теми, которые навязаны остальным из нас, потому что мы не использовали свою собственную свободу в попытке сформировать достойное технологическое будущее.

Uri: Я должен сказать, что книга была очень неудобной для меня, как для молодого человека, окончившего аналогичный университет, и у меня было ощущение, что эти вопросы о ценностях не поднимались так часто, а мы все чувствуют себя немного бессильными, как будто мы были частью большей системы, которая сформировала нас и которая была вне нашего контроля. Что, я думаю, чувствуют многие люди, и я думаю, что это что-то действительно замечательное в том, как вы подошли к этому и дали нам понять, как мы сформировались до сих пор, а также воодушевляющая история о том, что мы можем сделать, что Я действительно оценил.

Роб: Позвольте мне добавить к этому, если я могу Ури – я давний читатель браузера, подписчик, у меня есть некоторое представление о сообществе людей, которые, вероятно, будут слушать. И в определенном смысле, конечно, важно, чтобы технический и научный прогресс принес исключительную пользу обществу и отдельным людям. И вопрос не в том, так сказать, в разговоре о ценностях, когда появляется философ или политический деятель и говорит: остановите , нам нужно замедлить все это и убедиться, что у нас есть более широкий разговор, который эффективно приносит остановить технический прогресс.

Наоборот, идея состоит в том, что интересные аспекты беседы об этике и политике на самом деле связаны не с правильным и неправильным или истинным и ложным выбором в отношении технологий или науки, а скорее с лучшими и худшими социальными результатами. Способы, которыми так много технологических достижений последних ста или двухсот лет, когда они выводятся на рынок, как правило, частными компаниями, а затем рынок консолидируется, оказывают необычайное влияние на общество.И задача всех нас состоит в том, чтобы использовать огромные преимущества, а затем попытаться смягчить часть вреда. И это задача, которая выходит далеко за рамки принятия решений людьми в компаниях в одиночку.

Вот почему, в конце концов, я думаю, что этика — это энергичный способ мышления о технологиях, а не «моральная полиция явилась к технологам и сказала им, когда остановиться».

---

Еще не подписаны на браузер? Каждый день мы отбираем пять лучших статей в Интернете и рекомендуем их в нашем ежедневном информационном бюллетене.Попробуйте первый месяц бесплатно:

---

Ури: Абсолютно. Ну, на этой ноте, Джереми, вы, я думаю, философ, который провел время в правительстве. Не знаю, редкий ли это зверь.

Джереми: Не философ. Я политолог, поработавший в правительстве, что тоже довольно редкое явление.

Uri: Итак, я хотел спросить, не могли бы вы рассказать нам ровно в пяти словах, как вы думаете, каковы основные проблемы, связанные с тем, что социальные ценности заходят в тупик, или ставятся под сомнение, или не могут быть реализованы в процессе управления?

Джереми: [думает]: достижение консенсуса по поводу общих целей.

Uri: Вы все так хороши в этом, я совершенно ошеломлен.

Джереми: Теперь я могу добавить еще два предложения?

Uri: Пожалуйста, пожалуйста.

Джереми: Итак, в книге мы пишем о демократии как о технологии. Демократия — это технология, которую наше общество и многие другие общества выбрали для того, чтобы помочь нам находить действительно трудные компромиссы между ценностями, что, как коллектив людей, живущих вместе, где мы не можем иметь все, что хотим, не каждый может получить желаемый результат. хотим, мы должны сделать некоторые выборы.

И вы можете придумать множество разных способов сделать этот выбор. Вы можете представить себе, что этот выбор делал один человек, например, король или папа, что было одним из способов самоорганизации общества. Вы могли бы подумать о том, чтобы оставить эти решения компаниям, и это было немного похоже на режим, в котором мы работали с Big Tech. И эта книга — аргумент о роли наших демократических институтов в принятии этих решений. И причина, по которой мне трудно сделать этот выбор, и почему я выбрал те слова, которые я сделал, заключается в том, что люди хотят разных вещей, и они хотят их с большим энтузиазмом, и они очень несчастны, когда не получают того, чего хотят. .

Итак, этот процесс обсуждения, переговоров и оспаривания, вот что такое политика. И прямо сейчас мы переживаем момент огромного отсутствия веры в наши демократические институты и неспособности преодолеть межпартийные разногласия в Соединенных Штатах. Но это не значит, что есть какой-то альтернативный способ выполнить эту основную задачу, которая является задачей нашей демократии.

Роб: Есть ошибка, которую, я думаю, иногда допускают технологи — и мы обсуждали это в книге — важная часть для любого читателя, чтобы понять, пытается ли он понять, что происходит в больших технологиях. : вам не нужно понимать все детали конкретной технологии, что полезно понять, мы говорим, что вы должны понимать мышление оптимизации технолога, всегда выбирающего какую-то цель или цель для оптимизации вокруг.

И ошибка, которую, я думаю, часто совершают технологи, заключается в том, что они жалуются на правительство, потому что оно кажется настолько неоптимальным для достижения результатов, и, на мой взгляд, просто в корне ошибается в том, что такое демократическое управление. Как сказал Джереми, речь идет о постоянном справедливом процессе судейства, оспаривании собственного выбора и предпочтений граждан. Мы не должны ожидать оптимального производства чего-либо через демократическое правительство, потому что у нас нет единогласного мнения относительно того, какова цель.Вот почему демократия — это экстраординарное технологическое, институциональное устройство для постоянно развивающихся, всегда присутствующих, чтобы обновлять регулирующие правила игры, всего социального порядка.

Мы не должны ожидать оптимизации от правительства: мы должны ожидать, как минимум, подхода к ограждениям, чтобы избежать наихудших возможных результатов, и справедливости, чтобы относиться ко всем с равным голосом и придавать равный статус их интересам. .

Мехран: И перевод этого с помощью технологий означает, как упомянул Роб, не только саму технологию, но когда вы думаете о компромиссах ценности, которые закодированы в том, что кто-то выбирает для оптимизации и как эти вещи размениваться.Таким образом, степень, в которой кто-то должен понимать технологию, заключается не в деталях, а в размышлениях о том, какие общественные и личные ценности поставлены на карту, когда в игру вступает новая технология, как мы можем найти компромисс, например, что-то вроде конфиденциальность против национальной безопасности и устройства, которые у нас есть?, это то, о чем нам действительно нужно подумать и обдумать. Это требует некоторого понимания технологии, но, что более важно, требует понимания ценностей и обдумывания этих ценностей.

Uri: Одна вещь, которую я нашел действительно интересной в вашей книге, это точка зрения на смягчение вреда и способы, которыми мы хотим использовать правительство для предотвращения плохих вещей, точно так же, как мы хотим пытаться делать хорошие вещи. Я думаю, что это линза, которая за последние пару лет, очевидно, стала более заметной в нашем мире в целом. У вас есть мысли по этому поводу?

Джереми: Да, я подниму этот вопрос, чтобы сказать, что в кампусе и в регионе, где мы живем, регулирование — это многозначное слово, верно? Даже среди наших студентов, изучающих информатику, когда они слышат слово «регулирование», они просто предполагают плохих .Что это будет мешать хорошим вещам, которых они хотят достичь как отдельные лица или люди, работающие в компаниях, или как технологи.

И мы делаем все возможное, чтобы напомнить людям, в какой степени регулирование поддерживает все, чего они могут достичь в мире. Итак, вы начинаете с того, что задаете кому-нибудь вопрос: вы пили сегодня утром молоко? И когда вы выпили это молоко, вас не тошнило после того, как вы его выпили, и почему вы думаете, что вас не тошнило?

Или одежда, которую вы носите, вызвала кожную сыпь? Где была сделана эта одежда и почему вы думаете, что ваше тело способно носить эту одежду без какой-либо реакции? Таким образом, регулирование — это, по сути, набор решений, которые мы принимаем коллективно о том, как создать будущее, которое мы хотим иметь вместе или жить в обществе, и усилить преимущества новых технологий или новых продуктов, а также смягчить этот вред.

Итак, нам нужно вырвать людей из своего рода бинарного мышления, когда рынки хороши и у рынков есть все решения, а правительство плохо и правительство будет замедлять ход событий, и признать, что, хотя демократические институты несовершенны, они — это это средство, с помощью которого мы должны вынести эти ключевые компромиссы из секретного места, где они делаются людьми, которые разрабатывают технологии, или в залах заседаний с людьми, которые финансируют компании и управляют ими, и доводят их до конца. в публичные дебаты, чтобы мы могли решить, каков правильный баланс между преимуществами алгоритмического принятия решений и нашей приверженностью справедливости и надлежащей правовой процедуре? И как мы хотим сбалансировать конфиденциальность, о которой мы заботимся, с потенциальными преимуществами доступа к данным? И как мы хотим воспользоваться преимуществами автоматизации, сохранив при этом способность людей находить достойную работу и удовлетворять потребности своих семей?

Это социальные компромиссы, и компромиссы, которые нельзя оставить на усмотрение компаний.Если вы хотите назвать это регулированием, прекрасно, но признайте, что, пренебрежительно относясь к регулированию, вы фактически умаляете роль демократии и роль коллектива в принятии решений, которые приносят пользу всем нам.

Роб: Еще одна вещь, которую я хочу добавить, это то, что лично я несколько утомлен традиционными рамками для размышлений о Силиконовой долине, которые я воспринимаю в течение последних 20 лет, что является ранним энтузиазмом по поводу освободительного движения. потенциал социальных сетей и всех цифровых штуковин, инструментов и гаджетов, которые у нас есть — вы знаете, Силиконовая долина будет распространять свободу и демократию и улучшать жизнь людей, огромная утопическая полоса в работе хакеров и технологов — а затем прошлое десятилетие , конечно, последние пять лет это полная противоположность тому, что большие технологии разлагают демократию изнутри, подают нам кликбейт, отправляют нас в эхо-камеры и экстремизм, а ИИ вытесняет человеческий труд.

Пришло время поговорить о другом, в котором технологии не являются ни спасителем общества, ни его разрушителем. И попытаться использовать экстраординарные преимущества и смягчить через нашу коллективную деятельность вред. И последняя идея, необходимая для этого, заключается в том, чтобы перестать сосредотачиваться на личности основателей: Марк Цукерберг — хороший или плохой человек, Джек Дорси — хороший или плохой человек — это в лучшем случае второстепенный вопрос. На самом деле ключевым моментом является понимание более широкой экосистемы, в которой возникают эти передовые технологии, а затем они достигают больших масштабов в обществе.А что с ними потом делать, когда они оказывают на нас огромную власть.

Мехран: Да, может быть, можно подумать об этом так: технология часто рассматривается как вопрос личного выбора, верно? Если вам не нравится политика Facebook, вы должны выйти из Facebook или #deletefacebook. Так что идея либертарианства, что у людей просто есть личная свобода, и они должны просто делать свой индивидуальный выбор, и это каким-то образом решит проблему, является частью того, что на самом деле создает проблему в этом духе.

Если вы хотите рассмотреть простую аналогию, о которой мы иногда любим говорить, это вождение по проезжей части: если вы скажете кому-то «на дороге нет правил, вы можете либо сделать выбор, чтобы водить машину, и вы должны быть осторожны сам, или просто не гони», вы видите, какие есть недостатки, не так ли? Потому что в вождении есть ценность, и говорить людям, что они должны нести личную ответственность за вождение, не решает проблему.

Мы получили набор правил, которые давали нам такие вещи, как полосы движения, знаки остановки, уличные фонари и тому подобное.Они создали систему, которая сделала вождение более безопасным для всех. Теперь, в то же время, у вас по-прежнему есть личный выбор относительно того, насколько безопасно вы едете, как быстро вы хотите водить, а также хотите ли вы водить машину вообще. Но мы получаем систему, которая работает лучше для всех, потому что у нас есть регулирование. Это момент, когда мы находимся с технологией.

Ури: Абсолютно. Мехран: Насколько я понимаю, до того, как стать профессором, вы работали в области технологий.

Мехран: Верно.Я проработал в Google и нескольких других компаниях немногим более десяти лет.

Роб: Тот факт, что вы не получаете так много спама, Ури во многом связан с работой Мехрана.

Uri: Большое спасибо. Это действительно одна из величайших технологий.

Mehran: Надеюсь, вы не получаете много спама. Если что, извините.

Uri: Карты Google и защита от спама — это две технологии, к которым я отношусь однозначно положительно, они только что сделали мою жизнь намного лучше.

Имея такой опыт и опыт, я хотел бы узнать, не могли бы вы рассказать нам, как мы пришли к тому, что мы имеем сейчас, и, конечно, это не будет последним большим социальным изменением от новых технологий, на которое правительство должно реагировать, а также возможно, что мы можем сделать, чтобы изменить ситуацию в будущем… ровно в трех словах?

Мехран: Ровно в трех словах [смеется]: ИИ меняет жизнь.

Ури: О, интересно.

Мехран: Что ж, я думаю, что мы находимся в моменте, когда технология искусственного интеллекта стала достаточно мощной, а также сконцентрировалась во многих местах, где принимаются важные решения о нашей жизни, о которых мы можем не знать.Поэтому, когда мы подаем заявку на кредит, скорее всего, ИИ принимает решение о том, одобрен ли вам кредит. В нашей личной жизни люди используют приложения для знакомств, ИИ принимает решения о том, с кем они потенциально должны встречаться. В системе уголовного правосудия решение о том, кого оставить в тюрьме, а кого посадить под залог, все больше и больше определяется алгоритмическими решениями.

И так как жизнь продолжает развиваться, будет больше мест, где она автоматизируется. Это становится решающим для понимания того, как эти системы оцениваются; какая прозрачность и надлежащие процедуры существуют, чтобы иметь возможность понять, что они делают, и оспорить решение этих алгоритмов; и в то же время понять, какие данные о нас собираются и вводятся в эти алгоритмы.

Кроме того, проверяются ли они на такие вещи, как предвзятость, которая может существовать в данных, или усиление исторических закономерностей, которые мы на самом деле не хотим видеть, но которые мы считаем более объективными, потому что они созданы компьютером? Что на самом деле дает нам ИИ, так это то, что он дает нам зеркало нашего общества. В эти системы загружалась куча исторических данных, которые затем превращались в модели, по которым принимались будущие решения. Это означает, что мы кодифицируем прошлое. Часть кодификации прошлого означает поставить перед собой зеркало и понять, что мы на самом деле сделали, что нам нравится и что нам не нравится? Что мы хотим изменить?

И единственный способ сделать это — создать структуры, которые заставят нас критически взглянуть на эти алгоритмы, на то, как они используются, каково их влияние, и даже разбирать детали вокруг конкретных прогнозов, которые они делают, чтобы мы действительно могли обеспечить будущее, благоприятное для всех, а не просто укреплять прошлое и концентрировать эту силу в руках нескольких людей, которые знают, как работать с ИИ.

Джереми: Если я могу добавить в дополнение к Мехрану, в ответ на ваш вопрос, я бы сказал, что книга определяет три основные причины, по которым мы находимся в беспорядке, в котором мы находимся.

Первая — это оптимизационное мышление технологов, которое отдает приоритет одному конкретному значению или результату, ради которого вы оптимизируете, и игнорируете остальные.

Во-вторых, это структура, с помощью которой финансируются наши технологические компании, которая масштабирует привилегии и приоритеты таким образом, что эти ценности навязываются всем остальным, прежде чем мы даже поймем последствия этих технологий.

И третья составляющая — нарочитое равнодушие нашей политической системы. Таким образом, рост Big Tech и его растущая концентрация власти продолжаются до настоящего момента. Фактически, наши политики проложили путь к концентрации власти в крупных технологиях, взяв курс на создание регуляторного оазиса в 1990-х годах, чтобы захватить интернет и информационную революцию.

Так что же это значит для будущего за пределами настоящего момента? Это означает, что нам нужно решить все три проблемы.Нам нужен образ мышления технолога, который не имеет прочных корней в оптимизации, но который на самом деле борется с соответствующими компромиссами, различными ценностями, которые потенциально закодированы или могут быть закодированы в технологиях, и вам нужно охватить это или подойти к этому через работа, которую вы делаете по обучению технологов и в самих компаниях.

Во-вторых, нужна другая направленность компаний. И в основном нам нужно сдерживать власть сосредоточенных и доминирующих игроков на технологическом ландшафте, и мы думаем, что сила будет частично зависеть от контроля, который работники имеют над компаниями: с кем они сотрудничают, какие технологии они разрабатывают, как эти технологии используются в мире.Потому что конкуренция за таланты дает работникам технологического сектора необычайную нереализованную власть.

Затем произойдет третье изменение от правительства, которое больше не спит за рулем. И мы видим самые зачатки этого в тот момент, в котором мы находимся сейчас, но нам понадобится дееспособное, адаптируемое и гибкое правительство, чтобы оно могло управлять технологиями демократическим путем. Это будет работа поколений, не только для решения текущих проблем, но и для перезагрузки структуры нашего правительства, чтобы оно могло ориентироваться в технологиях в будущем.

Uri: Фантастика. Итак, мы добрались до «Последнего слова». Я просто попрошу каждого из вас одним словом сказать нам, что вы хотели бы, чтобы люди вынесли из этой книги.

Роб: Одним словом?

Uri: Одним словом.

Джереми: Слово агентство . Что мы, как личности, можем повлиять на наше технологическое будущее. И вопрос в том, пользуемся ли мы этим агентством.

Мехран: Мое слово образование .Я бы сказал, что людям нужно узнать о влиянии технологий, о том влиянии, которое они уже оказали на их жизнь, о том, что будет происходить дальше, потому что это будет иметь большое значение. И иметь возможность делать для себя оценочные суждения о том, что они на самом деле хотят видеть в будущем, иначе они уступят контроль группе людей, которые будут принимать эти решения за них.

Роб: Итак, я пойду с предсказуемым, тогда я скажу демократия и историческую роль, которую сыграли демократии, и возможность, которую мы имеем сейчас перед нами, оживить наши очень дисфункциональные демократические институты, чтобы принять вызов нашей эпохи, безусловно, один из величайших вызовов нашей эпохи, в том, чтобы направить технологическую революцию в выгодное русло в будущем.

И тут добавлю, что это не только вопрос внутренней политики в США. Я рассматриваю это как геополитическое соображение, и это всплывает в самом конце книги. На данный момент у нас есть договоренность или ожидание, что Америка вводит новшества, а Европа регулирует, и мы получаем конкуренцию между демократическими обществами на технологическом фронте, в то время как в то же время возникла альтернативная геополитическая сила, которая сплавляет режим и технологию. сам, конечно Китай.И было бы гораздо лучше, если бы наши демократические общества сотрудничали по геополитическим вопросам, а не соперничали.

Ури: Абсолютно. Что ж, как я уже сказал, я действительно ушел от книги, чувствуя себя одновременно немного стыдно за то, как я ранее отказался от своей свободы воли, но также и полон энергии, чтобы восстановить свою свободу воли. И я подумал, что вы все проделали действительно замечательную работу. Скажите, пожалуйста, нашим слушателям и зрителям, где они могут найти книгу?

Мехран: Книгу можно приобрести в Harper Collins, она вышла 7 сентября.Как вы упомянули, книга называется «Системная ошибка : где большие технологии пошли не так и как мы можем перезагрузить », и вы можете найти ее в своем любимом местном книжном магазине или в Интернете.

Роб: В виде аудиокниги, электронной книги и в печатном виде.

Ури: [смеется] вы можете получать информацию через все ваши чувства. Мы обязательно включим все ссылки в описания. Я действительно рекомендую эту книгу всем, кто интересуется этими темами, и если вы не интересуетесь этими темами, я действительно рекомендую заинтересоваться этими темами.

Роб, Джереми, Мехра, большое спасибо, что пришли и присоединились к нам сегодня.

Роб: Спасибо за Браузер.

Джереми: Это было так приятно.

Мехран: Большое спасибо. Очень понравилось.

---

Системная ошибка доступна во всех хороших книжных магазинах.

---

Еще не подписаны на браузер? Каждый день мы отбираем пять лучших статей в Интернете и рекомендуем их в нашем ежедневном информационном бюллетене. Попробуйте первый месяц бесплатно:

.

No related posts.