Современные технологии и безопасность

Необычайная сложность окружает нас. Она касается всего живого, человеческих сообществ, искусственных систем, когда-либо придуманных и сконструированных людьми. Достижения науки и техники очевидны.

Автопилоты в самолетах и автомобилях ведут транспортные средства по заданным траекториям , аппараты медицинской техники диагностируют заболевания, холодильники -термостаты хранят продукты, банкоматы выдают деньги, автоматика открывает по нашей команде двери лифта и помещений, видеокамеры и сканеры проверяют и охраняют в метро, датчики пожарной безопасности сигнализируют о возгораниях, компьютерные программы бронируют гостиницы, интернет-магазины и машины-автоматы предоставляют покупки, промышленные роботы в большом своем разнообразии выполняют производственные задачи. Человек только нажимает на кнопки машин.

Наука о контроле и взаимодействии между человеком и машиной называется кибернетикой, а набор представлений и положений о науке – кибернетической парадигмой.

Цель этой статьи – проанализировать кибернетику во взаимосвязи с вопросами безопасности, развитием науки и современных технологий.

Картезианско-ньютоновское мировоззрение

Мы привыкли к простым «механистическим» технологиям. Такие технологии основаны на Картезианско-ньютоновском мировоззрении или парадигме – наборе правил и предположений. Мировоззрение получило сильную поддержку с ростом индустриализации во всем мире, включая нашу страну.

Любой начинающий философ любой страны мира расскажет, что «картезианское» или «декартовское» мировоззрение возникло на «континенте», а ньютоновское - на «острове» или в Британии. Но оба они заменили в 18 веке средневековое мировоззрение Аристотеля и понимали картину мира как «механистическую». Механицизм означал, что каждая материальная вещь может пониматься как механизм большей или меньшей сложности.

Декарт придумал метафору бильярдных шаров. Согласно Декарту, этот принцип действует везде: один шар неподвижен, пока по нему не ударит другой шар. Движение при этом – прямолинейно. Ньютон видел материю активной и динамичной, где вещества взаимодействуют через силы. Вклад Ньютона в науку – использование математики (геометрии, алгебры, исчислений). Сложные системы он понимал как сложный набор уравнений. Понятие причины и следствия также во многом связаны с ньютоновским мышлением. Его третий закон движения лежит в основе предположений и о причинах аварий: для каждого действия существует равное и противоположное противодействие.

Со времен Декарта наука применяла аналитическую оценку естественного мира. Такая оценка предполагала, что сложные проблемы можно решить, разделяя их на более мелкие компоненты. Образно говоря, лес можно объяснить изучением деревьев по-отдельности. Такой принцип анализа в науке называется редукционизмом.

Представить механика, который ремонтирует автомобиль, находя и меняя дефектные детали, легко. Но, возможно, ли отремонтировать систему автоматизации или сигнализации, не имея тестовых стендов, или при таком аналитическом подходе лечить людей? Время доказало, что аналитические инструменты подходят не всегда, не всем и не предназначены для решения сложных проблем.

Автоматизация, цифровизация, искусственный интеллект, системная биология, медицинская кибернетика развивались на основе системной парадигмы. Так ее называют в академическом мире науки. В технологическом мире кибернетики – кибернетической.

Кибернетическая парадигма и развитие сложных систем

В этом мировоззрении мы говорим уже об открытых системах, которые взаимодействуют между собой, обмениваются данными со своей средой, к примеру, водоворот воды, терморегуляция, человеческий организм. Все эти системы находятся в состоянии наблюдаемых изменений и обмена энергией с окружающей средой.

В 50-х годах прошлого столетия американский математик Норберт Винер (Norbert Wiener) с помощью кибернетической теории проверил картезианское мышление на прочность. Картезианская модель показала недостатки и неустойчивость. Винер подчеркнул важность моделей открытых систем и ввел важное нововведение: обратную связь.

Книга Н. Винера «Кибернетика, или управление и связь в животном и машине» стала классической. Для понимания смысла кибернетики можно посмотреть обучающее видео 1981 года. 

Мы узнаем про эффекты обратной связи: положительную обратную связь, отрицательную обратную связь, стабильные и нестабильные системы, сложные системы управления, принципы динамических систем. Все поясняется на примерах. На поясняющих рисунках – кадры из видеофильма.

Рисунок №1 – отрицательная обратная связь и круговая причинность, где А влияет на B, В влияет на С, С влияет на А.

Рисунок №2 – вид условной сложной системы с большим количеством взаимодействующих обратных связей.

Вывод, к которому приходят в завершении видеофильма, следующий. Кибернетика связана со сложными системами. Со сложностью общества можно справиться только через понимание петель обратной связи круговых систем.

Почему круговая «обратная связь» важна для безопасности

На странице Feedback (Обратная связь) специализированного сайта по кибернетике даны рисунки и описание положительной и отрицательной обратной связи.

Позитивная (положительная) обратная связь на рисунке №4 приводит к дивергентному поведению: бесконечное расширение и взрыв (бегство к бесконечности) или полное блокирование деятельности (бегство к нулю). Каждый плюс включает в себя еще один плюс. Есть эффект «снежного кома». Примеров много: цепная реакция, взрыв (к примеру, в химических реакциях), возрастающие колебания, хаотическое поведение, инфляция, распространение раковых клеток.

Рисунок №3. Положительная петля обратной связи.

Негативная (отрицательная) обратная связь на рисунке №4 приводит к стабильности. В отрицательном цикле каждое изменение в сторону плюса вызывает коррекцию к минусу, и наоборот. Существует жесткий контроль; система колеблется вокруг идеального равновесия, которого она никогда не достигает.

Рисунок №4. Отрицательная петля обратной связи.

Подробнее про петли обратной связи можно посмотреть на следующем наглядном видео. 

В тексте видео говорится, что «петля обратной связи – непрерывный цикл». Мир природы полон таких механизмов. Они формируются за счет связей между живыми и неживыми телами, которые и обеспечивают устойчивость.

Самый популярный в наше время пример положительной обратной связи, о котором много говорят политики, – это изменение климата.

Принципы работы простых кибернетических устройств

Раннее развитие кибернетики – это простые кибернетические устройства.

Поплавок или поплавковый клапан– пример простого кибернетического устройства. Применяется для контроля уровня воды, c использованием отрицательной обратной связи - рисунок №5.

Рисунок №5. Работа поплавкового клапана (рисунок из Википедии).

Термостат – это второй пример. Простое устройство, которое часто используется для описания основных идей кибернетики. Устройство работает по принципу замкнутого цикла. Термостат имеет цель, так как прибору задаются начальные параметры. Система термостата работает, чтобы приблизиться к заданным параметрам. Прибор считывает внутреннюю температуру и изменяет ее.

К примеру, пользователь может установить термостат на параметр 21 град по Цельсию. Если необходимо уменьшить параметр до 18 град по Цельсию, то пользователь вмешивается «из-за границ системы» и устанавливает новое значение. Как прибор, термостат стремиться к равновесию в технической системе. Как велосипедисту нужна велосипедная дорожка, так и термостату нужен диапазон температуры. Заданная температура достигается постепенно.

Что такое холодильник – знают все. Но не все знают, что технически – это термостат, который является прибором для поддержания заданной постоянной температуры.

Как и термостат, наше тело также имеет кибернетическую систему, которая постоянно регулирует температуру нашего тела примерно до 37 градусов по Цельсию - независимо от температуры окружающей среды.

Гомеостаз – самоподдержание системы в состоянии баланса и равновесия. Вот хорошая анимация по описанию гомеостаза как негативной обратной связи.

Раннее развитие кибернетики было в основном технологическим и привело к появлению устройств управления с обратной связью, коммуникационных технологий, автоматизации производственных процессов и компьютеров.

Математическая теория связи и путь к развитию кибернетики и сложных цифровых технологий

Значительным фактом, который прямо повлиял на изменения технологий и указал путь для развития высокотехнологичных технологий являлась статья американского математика Клода Шеннона ((Claude Elwood Shannon) под названием «Математическая теория связи» , написанная в 1948 году.

Для своих работ Клод Шеннон применил алгебру Буля. Именно эта математическая логика, заложенная в работу электрических схем, работающих на реле, и стала основой для работы современных компьютеров.

Ученый также ввёл понятие информационной энтропии, аналогичное энтропии из термодинамики, которое является мерой неопределённости информации.

Подробнее о смысловом понятии энтропии - ключевом понятии кибернетики, можно посмотреть в хорошем советском учебном фильме от 1985 года «Энтропия».

Развитие кибернетики в СССР

В августе 1955 года в Журнале «Вопросы философии» в №4 была опубликована статья коллектива советских ученых и специалистов: академика С. Л. Соболева, А. И. Китова, А. А. Ляпунова « Основные черты кибернетики». Эту статью называют первой позитивной научной статьей в стране о кибернетике.

Как отмечают сами авторы до этого времени в стране «имело место неправильное толкование кибернетики, замалчивание работ по кибернетике, игнорирование даже практических достижений в этой области. Кибернетику называли не иначе, как идеалистической лженаукой».

Помимо уже упомянутых работ Норберта Винера и Клода Шеннона в статье также упоминается и работа советского математика А.Я. Хинчина «Понятие энтропии в теории вероятностей», опубликованной в Журнале «Успехи математических наук» в 1953 году.

Авторы называли в своей статье кибернетику не иначе как «новым научным направлением», писали о том, что характер автоматических устройств требует «нового подхода» - «единого подхода к исследованию процессов взаимодействия тел», писали о «ценности новой теории в широком обобщении достижений различных наук, в выработке общих принципов и методов».

Развитие мировой кибернетики, системной науки и технологий

Массачусетский технологический институт (MIT) стал местом развития кибернетики как междисциплинарной науки о контроле и коммуникациям между машинами, человеком и обществом, а также тесно связанной с ней системной теории. Идеологическая основа для этого уже была создана серией научных семинаров и конференций ( Macy Conference).

Историю развития мировой кибернетики и системной науки можно прочитать в статье по ссылке.

В MIT ученые прошли многолетний путь от зарождения кибернетической философии, кибернетики как науки, кибернетики вещей до дискуссий об ограничениях роста. Происходило это начиная с 40-х годов в три этапа по 10 лет.

Пионерами великих открытий, как утверждается в статье, можно считать троих ученых института: уже упомянутого математика Норберта Винера, нейрофизиолога Уоррена Мак- Каллока и Джея Форрестера, профессора школы менеджмента Sloan при Массачусетском технологическом институте.

Параллельно с работой этой группы ученых в Массачусетском технологическом институте работала и другая исследовательская команда под руководством биолога Людвига фон Берталанфи.- автора Общей теории систем. Их работа была связана с системными исследованиями на основе кибернетической философии. В 1954 г. стали выходить «Ежегодники общих систем», которые касались расширения кибернетического подхода применительно к социальным системам и промышленности.

Подробнее о системном подходе, как о новом мировоззрении, можно почитать на странице о базовых концепциях системного подхода.

В наше время кибернетический и системный подходы, называют «двумя сторонами одной медали», хотя для узких специалистов это сравнение, возможно, и некорректно.

К чему же привели исследования двух научных школ MIT? Можно сказать довольно точно – не только к изменениям технологий, но прежде всего к сдвигу парадигмы в научном мире.

Сдвиг научной парадигмы – от аналитического подхода к системному

Сдвигом или сменой парадигмы называют термин, введённый историком науки Томасом Куном в книге «Структура научных революций», которая вышла в 1962 году. Термин описывал изменения основ общепринятой модели науки.

Системный подход кардинально менял картезианско-ньютоновское мировоззрение, основанное на анализе. Промышленность, в которой стала активно развиваться автоматизация и цифровизация, получила другие смысловые установки.

Сравнение аналитического и системного подхода можно найти на сайте кибернетики в большой таблице в статье по ссылке. Ниже – перевод таблицы сравнения.

В статье сказано, что «аналитические и системные подходы более взаимодополняют друг друга, чем противостоят друг другу, однако ни один из них не является связанным с другим».

Получается: инженерам необходимо понимать и один и другой подходы одновременно, учитывая их различия.

Кибернетический (системный) подход в стандартах по управлению

1) Кибернетическое мировоззрение в стандартах по системам управления безопасностью труда и здоровью.

Во многих современных международных стандартах ИСО по управлению мы видим, так называемый круговой цикл Деминга, который кибернетики называют не иначе как «петлей отрицательной обратной связи», имеющей непрерывный характер.

К примеру, на рисунке №6 – модель цикла Деминга в стандарте ISO 45001 по безопасности труда и здоровью. Предполагается, что круговая петля в цикле помогает достигать стабильности, исправлять ошибки, достигать цели предприятия.

Некоторые из иностранных консультантов называют круговой цикл схемы в ISO 45001 как «Helicopter View», т. е. образно сравнивания динамическое круговое движение на схеме с вертолетом. Рекомендую сравнить.

Рисунок №6. Сравнение - цикл Деминга в стандарте ISO 45001 и вид вертолета.

Видео -консультацию по ISO 45001 можно посмотреть в ролике

Рисунок №7. Кадр с экрана учебного видео «01: ISO 45001 - Introduction to the Standard and eCourse».

Наличие в стандарте терминов: «обратная связь», «контекст», «самоопределение», «адаптация», «управление изменениями», «взаимосвязь», «итерационный процесс», «взаимодействие» и т. д. прямо указывает на кибернетическую парадигму (набор правил и предположений).

Веб-словарь кибернетики и систем, составленный самими кибернетиками, можно найти здесь. Тут же можно найти и описание некоторых терминов стандарта.

Кибернетическое мировоззрение в стандартах по обучению

Ниже рисунок №8 из стандарта ГОСТ Р ИСО 10015–2007 по менеджменту организации и руководящим указания к обучению. Так выглядит круговая (кибернетическая) модель цикла обучения. Подготовлен этот стандарт ОАО «НИИ контроля и диагностики технических систем» и идентичен международному ISO 10015 по обучению.

Рисунок №8. Цикл обучения из стандарта ГОСТ Р ИСО 10015–2007.

В п.4.4.2.3 стандарта прямо сказано про «обратную связь» (feedback) от обучающегося, обучающего и предоставление информации обратной связи руководству и персоналу организации, вовлеченному в процесс руководства обучением.

Отличие от обучения в традиционном понимании охраны труда в том, что в круговых непрерывных моделях наличие обратной связи затрудняет различие следствия (эффекта) и причины явления в системе. Это знаменитый парадокс «курицы и яйца», когда следствие оказывает обратное воздействие на причину, которая становится следствием.

Доказать чью-либо вину в виде предположения «человек был не обучен, поэтому работодатель виновен» - объективно невозможно.

Вот почему кибернетики советуют никогда не прерывать петли обратной связи. В системном подходе и кибернетике это большая и непростительная ошибка. Цикл всегда изучается в его динамической целостности. Это в кибернетической парадигме называется круговой причинностью (circular causality).

История создания цифровых технологий, компьютерного моделирования и «пределы роста»

Jay W. Forrester (1918–2016) — американский компьютерный инженер и системный ученый, исследователь. Многие годы его работа была связана с Массачусетским технологическим институтом (MIT).

Его называют пионером цифровых вычислений, изобретателем магнитного ядра компьютерной памяти, ранней формы оперативной памяти. Он разрабатывал сервомеханизмы – следящие системы автоматического регулирования, работающие по принципу обратной связи для механических устройств. Период с 1955 по 1975 годов называют наиболее активными в развитии цифрового развития компьютеров. Необходимо было преодолеть разрыв между вакуумными трубками и полупроводниками, используя магнитные свойства материалов для выполнения переключения и усиления. Jay W. Forrester делал компьютеры высокоскоростными и способными выполнять большой объем вычислений.

В 1971 году Jay W. Forrester был приглашен Римским клубом на встречу в Берне, Швейцария. Римский клуб является организацией, занимающейся проблемами глобальных кризисов, которые могут появиться в будущем, из-за требований, предъявляемых к несущей способности Земли (ее источники возобновляемых и не возобновляемых ресурсов). В 1972 году вышел отчет Римского клуба «Пределы роста» с учетом результатов компьютерного моделирования ученого и его коллег.

Компьютерная модель World3 показала крах мировой социально-экономической системы в XXI веке, если не будут приняты меры по уменьшению потребностей в несущей способности Земли.

Модель была построена на основе системной динамики и на тот момент была первой, смоделированной на компьютере. Несмотря на большую критику со стороны бизнеса и экономистов модель Forrester имела большое мировое значение, так как породила дискуссию о глобальных мировых проблемах и концепциях устойчивости.

Jay W. Forrester был профессором в MIT Sloan школы менеджмента. Его исследования были сосредоточены на поведении экономических систем, включая бизнес-циклы, новом типе обучения управлению на основе динамики, проблемах урбанизации и даже применению системной динамики в дошкольном образовании.

Лекции ученого можно найти в сети по его имени и фамилии. Они интересны и сегодня своей актуальностью.

Кибернетика второго порядка

Heinz von Foerster, австрийский физик и математик, в 1974 году провел различие между кибернетикой первого порядка (кибернетикой наблюдаемых систем) и кибернетикой второго порядка (кибернетикой наблюдающих систем).

В кибернетике второго порядка наблюдатель вовлечен или связан с наблюдаемым процессом – рисунок №9. Наблюдатель больше не является нейтральным и отстраненным, а рассматривается как наблюдающая система в круговом процессе.

Рисунок №9. Схема кибернетики второго порядка (рисунок из Википедии).

Современные кибернетические устройства и сложные системы

Рассмотрим на примере.

Система автономного (автоматического) экстренного торможения или по-английски Autonomous Emergency Braking (сокр.- AEB) — это система, которая пытается предотвратить дорожно-транспортное происшествие путём включения в экстренной ситуации тормозов автомобиля независимо от водителя. Система представлена на рисунке №10.

Рисунок №10. Система AEB (рисунок из Википедии).

Система сканирует пространство вокруг автомобиля, используя параметры скорости и траектории движения, и оценивает вероятность столкновения: с другими автомобилями, пешеходами и другими участниками движения. Если водитель не реагирует – система инициирует экстренное торможение.

Водитель может ошибиться, отвлечься – система предупредит водителя об угрозе и даже может остановить автомобиль.

Первые такие системы в автомобилестроении появились в 1959 году и затем усовершенствовались. В основе работы системы лежат технологии радиотехнических систем обнаружения объектов на основе определения параметров (радара), технология получения и обработки данных (лидера) или обработки цифрового потока при помощи видеокамер.

Сложная система в упомянутом примере может состоять из «машины – водителя – окружающей среды – пешеходов - участников дорожного движения – системы автоматического торможения». В этом случае безопасность можно рассматривать только в комплексном системном подходе и взаимодействии всех элементов, где традиционная функциональная безопасность соединяется с информацией, кибернетическими концепциями и компьютерным моделированием.

Система состоит из большого количества частей. Они взаимодействуют между собой разными способами. Высшая точка проявления ( эмерджентное свойство) всей системы обеспечивать безопасность в целом. Это свойство больше, чем сумма отдельных ее частей.

Новый взгляд на безопасность

Современные научные писатели говорят о фактической сложности установок и, связанной с ними безопасности производства.

Сидни Деккера ( Sidney Dekker) – популярный писатель, доктор наук.

Его книга «Safety Diifferently: Human Factors for a New Era» или «Безопасность различна: человеческий фактор для новой эры» имеет название, которое полностью отражает смысл.

На рисунке – обложка упомянутой книги, которую можно приобрести в сети.

В книге автор дает сравнение Картезианско-ньютоновского мировоззрения и мировозренческого взгляда на Сложность (таблица 2.1 стр.51 книги) следующим образом.

Со слов автора с новыми технологиями приходят и новые социотехнические опасности. Повышение уровня автоматизации превращает операторов, работающих в непосредственном управлении в диспетчеров. Автоматизация также меняет возможности исправления ошибок и часто не в лучшую сторону. В результате возникают новые формы нарушения координации и несчастных случаев.

В книге писатель делает вывод: «Нам необходимо отойти от наших декартово-ньютоновских языков линейно-причинных связей, глубокой защиты и других статических метафор. Вместо этого нам нужно принять язык сложности, изменений и развития, целостных отношений, а не отдельных компонентов».

Заключение

С появлением в нашей стране сложного импортного оборудования и технологий мы практически оказались в другом технологическом укладе вещей, сконструированных в не привычном для нас кибернетическом (системном) подходе.

Все бы хорошо. Но таблицы сравнения даны в статье не случайно. Сравнение вызывает философско-мировозренческий вопрос: Может ли кибернетика и связанная с ней глобальная цифровизация качественно и достойно работать в нашем «разделенном» по профессиям и должностям обществе специалистов с преимущественно аналитическим мышлением?

Этот вопрос, как я полагаю, можно задать и представителям науки, и юристам, и законодателям.