Обратная сторона прогресса

4 февраля на конференции Legaltech в Нью-Йорке представители разных юридических фирм и компаний, которые специализируются на информационных технологиях в правовой отрасли, обсудили тёмную сторону технического прогресса. По словам специалистов, минусов от автоматизации в юриспруденции не меньше, чем плюсов. О том, как прошел первый день конференции, рассказал Law.com, а мы перевели эти новости.

Как уследить за персональными данными?

На одной из панельных дискуссий участники вспомнили Общий регламент ЕС по защите данных. Это дало повод для дискуссий на тему конфиденциальности.

Legal Week NY Клиенты юрфирм обеспокоены хранением данных в облаке

Анджу Хурана, директор и глава отдела конфиденциальности и защиты банка BNY Mellon, сообщила, что законы о конфиденциальности существуют более чем в 100 юрисдикциях. Некоторые из них, как европейский регламент, носят экстерриториальный характер, т.е. применяются к компаниям, основные мощности которых находятся за пределами границ Евросоюза. В то же время, в США свои особенности законотворчества в этой отрасли. Здесь отдельные штаты могут принимать законы о конфиденциальности без какого-либо общегосударственного регулирования. Кеннет Рашбаум, партнёр юридической фирмы Barton, советует клиентам не ждать, пока подобные законы примут общенациональный характер, а начинать менять свои внутрикорпоративные нормы уже сейчас.

Рашбаум добавил, что не стоит сильно переживать из-за новых мер, поскольку все принципы, на которых базируются законы о конфиденциальности, более или менее похожи. В основе их лежит защита прав субъектов персональных данных. Рашбаум сказал, что клиенты, как правило, не хотят вникать во все тонкости конкретного закона, и поэтому у них нет плана действий, как приводить внутренние регламенты в соответствие с новыми нормами. Кортни Стаут, главная специалистка по конфиденциальности в компании S&P Global считает, что адаптация к законодательству в этой сфере — процесс перманентный. По её словам, сложности создают сами субъекты персональных данных, которые впадают в ярость всякий раз, когда спрашивают у представителей бизнеса, как используются их данные. «Физлица всегда будут жаловаться регулятору и сразу же уведомлять вас об этом”, — говорит Стаут.

«Люди впадают в ярость, когда спрашивают, как используются их персональные данные. Физлица всегда будут жаловаться регулятору и сразу же уведомлять вас об этом».

Рашбаум предложил организациям ввести так называемое «дерево решений”, чтобы нарушение закона не застало их врасплох. Полезный шаг в этом направлении — иметь карту данных — схему, из которой было бы ясно где хранятся все персональные данные, собранные организацией. Хурана добавила, что такие карты должны быть соотнесены с конкретными физлицами, чтобы было удобнее удалить информацию по запросу. Но в крупной компании тяжело определить какое подразделение виновно в нарушении законов о защите персональных данных.

Алгоритмы в учёбе и страховании

В цифровую эпоху часто бывает, что преимущества от технологий слишком хороши, чтобы быть правдой. Например, компьютерные программы для принятия решений, основанные на алгоритмах и искусственном интеллекте, могут помочь учебным заведениям улучшить академические достижения, а страховым компаниям — установить оптимальную ценовую политику. Но обратная сторона этих преимуществ — сложности в понимании, ограничении и управлении самими этими инструментами. Этот парадокс обсудили ещё на одной панели.

Legal Week NY Искусственный интеллект для юристов: чем он полезен и опасен

Помощник главного юридического советника и менеджер отдела по защите персональных данных Нью-Йоркского технологического института Джордан Томпсон отметил, что его заведение разрабатывало алгоритмические инструменты, чтобы помочь»определить студентов, которые с наибольшей вероятностью станут отстающими и не преуспеют в учёбе». По словам Томпсона, «эту аналитическую работу проводили ещё до того, как эти студенты пересекли порог кампуса». Анализ использовал такие данные, как доход родителей и социально-экономический статус семьи. Он применялся только в отношении тех, кого приняли в учебное заведение. Целью было помочь отобрать студентов на вспомогательную работу. Томпсон добавил, что его беспокоит злоупотребление такими технологиями. По его словам, в такой децентрализованной системе «есть факультеты и группа людей, работающих на этих факультетах, которая не всегда прислушивается к администрации”. Возможна такая ситуация, когда профессор будет допускать дискриминацию отдельных студентов только на основе результата алгоритмического анализа.

В страховой сфере анализ, основанный на алгоритмах, тоже может оказаться не так прост. Стивен Полли, партнёр фирмы Anderson Kill, вспоминает одну страховую компанию, которая «разработала отличный прогностический алгоритм, основанный на машинном обучении. Используя незначительный объём данных, он мог точно определить стоимость страховки”. Проблема была в том, что сами разработчики не знали, как именно софт добивается нужных результатов. Полли отмечает, что некоторые регуляторы, вроде Департамента Нью-Йорка по финансовым услугам, оставляют за собой право проверять алгоритмы и требуют, чтобы те были транспарентны.

«Умные контракты» против традиционных договоров

Главным преимуществом так называемых «умных контрактов”, которые автоматически генерируют условия соглашения, часто называют возможность избавиться от посредников. Но участники панели, посвящённой блокчейну, опровергли эту идею. Они считают, что такой уровень независимости наступит ещё не скоро, а скорее всего вообще не наступит.

Мойше Малина, первый помощник главного юрисконсульта в Citigroup, считает, что хоть все и говорят об «умных контрактах” как о полностью автоматизированном процессе, на практике он этого не видит. На его взгляд, это самые обычные договоры, составленные на традиционном языке, которые лишь стоят на верхушке цепочки блокчейна.

Legal Week NY Новый софт поможет оформить патентную заявку и составить контракт

Джо Дьюи, партнёр фирмы Holland & Knight, отметил, что хотя услуги «умных контрактов” уже давно в продаже, они сильно эволюционировали с момента их выхода на рынок. «Многие из них начинали как платформы, ориентированные на блокчейн, а если вы посмотрите на них сегодня, основной фокус приходится на автоматизацию”.

Малина добавил, что есть несколько причин, по которым «умные контракты”, скорее всего, не заменят традиционные. Во-первых, как и любая технология, они не всегда будут работать как надо. «В некоторых «умных контрактах” на Ethereum были ошибки в кодах, генерировавшие сделку, которая изначально не планировалась”.

«В некоторых смарт-контрактах были ошибки. В результате генерировалась сделка, которую изначально не планировали».

Во-вторых, в традиционных договорах есть необходимый уровень гибкости, поскольку они могут обеспечить больший набор средств правовой защиты и встречного удовлетворения. И даже если это совсем простое соглашение, которое может быть легко автоматизировано «умным контрактом”, традиционный договор всё равно будет нести больше преимуществ для судебного оспаривания. Малина отметил, что при рассмотрении «умного контракта” в суде возникнут сложности, поскольку «ни судьи, ни присяжные компьютерные коды не читают”. В таких случаях судьям придётся прибегать к услугам экспертов по кодировке, а эта процедура не из лёгких.

На конференция Legaltech сотрудники различных компаний обсуждают роль и перспективы информационных технологий в юридической отрасли. Конференция проходит в Нью-Йорке в рамках Юридической недели.

1. Обратная сторона прогресса

По поводу возможного будущего человечества в современной науке существуют различные точки зрения. Одни ученые говорят, что человеческое общество движется по пути прогресса и в дальнейшем поднимется на более высокую ступень развития. Другие же, наоборот, считают, что человечество идет путем регресса, и в будущем обречено на гибель. Хорошо, если правы первые. Но если может быть так, как предсказывают вторые, необходимо безотлагательно задуматься над их прогнозом и что-либо предпринять.

Как то ни печально, но к концу ХХ века стало совершенно очевидным, что оснований для безрадостных прогнозов более, чем достаточно. Современный мир столкнулся с такими проблемами, которые в недалеком будущем смогут столкнуть человечество в бездну уничтожения. Это проблемы не конкретных стран, народов или континентов. Перед их лицом абсолютно равны все нации и государства. Это проблемы всего человечества, они носят планетарный масштаб и поэтому часто называются глобальными. Понятно, что и решить их возможно только совместными усилиями всех жителей одного большого дома, имя которому – планета Земля.

Для утверждения о том, что человечество движется по пути прогресса есть немало оснований. Во многих областях нашей жизни прогрессивное развитие налицо. Например, в экономической сфере за свою недолгую историю человек достиг грандиозных результатов. Всего за 5 тысяч лет (в то время как Homo Sapiens существует приблизительно 40 тысяч лет) мы продвинулись по экономическим показателям далеко вперед. Из каменных пещер люди перебрались в комфортабельные квартиры, а вместо звериных шкур стали одеваться в удобную и модную одежду. Теперь нам не надо день и ночь сторожить огонь, который может погаснуть и тем самым привести нас к верной гибели от холода и голода. В отличие от наших первобытных предков мы не приходим в ужас от стихийных бедствий и природных катаклизмов, потому что знаем их причины и умеем с ними бороться. Нам не надо постоянно спасаться и прятаться от хищных зверей и других опасностей, которые не так давно подстерегали человека на каждом шагу. Мы сейчас более или менее уверены в себе и в завтрашнем дне, чего никак нельзя сказать о наших первобытных предшественниках, жизнь которых была настолько тяжела, опасна и непредсказуема, что могла оборваться в любую минуту. Одним словом, с экономической точки зрения мы ныне живем в сотни раз лучше, чем 5 тысяч лет назад, а это значит, что наличие прогресса в данной сфере никак нельзя отрицать.

Очевиден также прогресс в области образования. Мы сейчас знаем гораздо больше, чем наши далекие предки. Когда-то умение читать и писать было привилегией немногих богатых и знатных людей, теперь же трудно встретить человека, который не умел бы этого делать. Некогда в тайны природных явлений были посвящены только представители особой исключительной касты (сословия) жрецов, ныне невозможно найти человека, который не знал бы почему меняются времена года, как размножается живая природа, сколько планет вращается вокруг Солнца, из чего состоят все физические тела, каким образом вода превращается в пар и лед, что представляют собой пролетающие над нами кометы, в чем причина солнечных затмений и многое другое. Конечно же, нынешний уровень знаний – это результат огромного опыта, накопленного сотнями прошедших по Земле поколений. По крупному счету, нам нечем гордиться, так как все, что мы сейчас знаем и умеем обусловлено жизнью и деятельностью наших далеких и недавних предков. Но несомненно, что современный школьник подчас знает больше, чем древний или средневековый ученый, из чего следует явное наличие образовательного прогресса.

Также можно отметить прогресс в области медицины или здравоохранения. Давно ушли в прошлое времена, когда некоторые страшные болезни, например, чума, оспа или холера казались неизлечимыми, выкашивали целые города и даже континенты и считались божественным наказанием, посланным людям за их земные грехи. Медицина нашла эффективные и надежные средства борьбы с этими и многими другими недугами, благодаря чему они не представляют в настоящее время серьезной опасности. Правда, вместо старых появились новые страшные болезни, но несомненный исторический прогресс в области медицины позволяет надеяться, что с течением времени человек будет в состоянии справиться и с ними.

Невозможно не заметить прогресса в сфере правосознания, то есть очевидно, что человек все более понимает права и обязанности каждого по отношению к любому другому, что человечество все более осознает те принципы и нормы, соблюдение которых сможет сделать общественную жизнь лучше и справедливее. Когда-то человек понял, что нельзя есть людей из своего племени, потом осознал, что нежелательно поедать и представителей чужого племени, через какое-то время он понял, что вообще нельзя не только поедать, но и убивать себе подобного и, наконец, в настоящее время жизнь, свобода и собственность считаются неотъемлемыми человеческими правами: они дарованы каждому из нас самой природой и поэтому никто не вправе покушаться на них. Права человека, конечно же, повсеместно нарушаются в современном мире, но несомненно, что человеческая жизнь теперь является гораздо большей ценностью, чем в дикие времена пятитысячелетней давности, когда она почти ничего не стоила и могла в одночасье сгинуть без суда и следствия.

Можно назвать и другие виды прогресса, но, наверное, наиболее важным является научно-технический прогресс, от которого прямо или косвенно зависят все перечисленные выше виды прогресса. Невозможно не поразиться тем колоссальным достижениям, которые сделала наука и техническая мысль всего за 5 тысяч лет. За это время от примитивного каменного топора люди перешли к сложнейшим машиностроительным станкам, от звериных шкур, сырых пещер и борьбы за огонь – к современным небоскребам и мощным электростанциям, от собирательства и охоты – к выведению новых видов растений и животных. Трудно представить себе этот грандиозный научно-технический шаг, ведь если бы мы лет 500 назад сказали любому жителю средневековой Европы, что он, не выходя из своего дома, сможет видеть происходящее на другом конце планеты и разговаривать с другом, находящимся за тридевять земель от него, он ни за что не поверил бы нам, назвав все это небылицами, сказками, колдовством, волшебством или еще чем-нибудь в этом роде. Если бы мы сказали древнему египтянину или индусу, или греку, что человек способен лететь по небу со сверхзвуковой скоростью, на многие километры опускаться в глубины океана, ходить по поверхности Луны, все они, наверное, сочли бы нас сумасшедшими. Сегодня же все это – повседневная и привычная реальность, в которой нет ничего удивительного.

Приспособления, созданные человеком и намного превосходящие его физические возможности, никого не удивляют уже 300 лет. Человек победил свою мускульную силу в XVII веке: появилась паровая машина. С тех пор всем стало ясно: как бы ни были сильны и быстры ноги, совершенно бесполезно пытаться обогнать паровоз. В настоящее время научная мысль продвинулась гораздо дальше: в ХХ веке человек преодолел уже не физическую, а интеллектуальную (умственную) свою мощь, создав компьютер. Этот шаг является принципиально новым в истории научно-технических достижений и открывает собой целую эпоху. Ведь все ранее изобретаемые машины были рассчитаны на физические действия: поднимать, передвигать, забивать, резать, качать, нагревать, прессовать и т. д. и т. п. Они должны были заменить мышцы наших слабосильных рук и ног. Теперь же человек создал машину, которая рассчитана на интеллектуальные действия и может заменить человеческий разум.

То, что компьютер гораздо лучше человека может производить сложнейшие математические расчеты и запросто обыгрывает своего создателя в шахматы, уже никого не удивляет. В настоящее время машина может сочинять музыку, рисовать картины, писать художественные романы и делать многое другое. Более того, искусственный интеллект (разум) – компьютер каждый год совершенствуется и постоянно увеличивает свои возможности. Правда, правильнее говорить, что эти возможности увеличивает человек, постоянно совершенствуя созданную им машину. Однако не исключено, что наступит время, когда доведенная до высокой степени совершенства машина сможет самоусложняться и самосовершенствоваться, эволюционировать дальше самостоятельно. В этом случае возможно, что она когда-то интеллектуально превзойдет человека и выйдет из под его контроля, перестав ему подчиняться. Как он, некогда созданный природой, превзошел ее своей научно-технической силой, начал покорять и истреблять ее, ставить себе на службу, так и машина, созданная человеком, может превзойти его своей мощью и начать войну против собственного создателя. Таким образом, не исключено, что всем хорошо известный фантастический сюжет о Терминаторе (машине, восставшей против человека) может стать реальностью 21 века. Но машина, стремящаяся истребить человека и занять его место на планете – это результат и достижение научно-технического прогресса. Стало быть, у него есть обратная сторона: прогресс может обернуться регрессом и гибелью.

Однако, если даже не принимать в расчет возможность превращения фантастики в реальность, все большее проникновение компьютера в нашу жизнь несет не только ее облегчение и улучшение, но и таит в себе невидимую, но большую опасность. Как известно, компьютер способен создавать виртуальную (лат. virtualis – возможный) реальность, то есть создавать видимость или иллюзию нереальных или несуществующих вещей и ситуаций. Например, с помощью виртуальной реальности человек может, не выходя из комнаты, ощутить себя летящим на сверхзвуковом самолете, мчащимся на гоночном автомобиле, купающимся в волнах далекого Средиземного моря. Что же в этом плохого и опасного, с удивлением спросите вы. Опасность заключается в том, что когда человек чересчур увлекается виртуальной реальностью, он может забыть о подлинной реальности, в которой протекает его настоящая жизнь. И тогда он перестает быть самим собой, теряет ориентацию в вещах и явлениях, начинает плохо понимать происходящее, в его сознании меняются местами понятия, переворачиваются привычные представления, рушатся традиционные человеческие идеалы. В этом случае он может перестать понимать, что можно делать, а что – нельзя, где совершается добрый поступок, а где – преступление, может утратить ощущение добра и зла, чувство вины и ответственности, забыть понятия долга и совести, а значит – потерять самого себя. Расставшись со всем человеческим в себе, он может перестать быть человеком.

Прочитайте короткий и зловещий рассказ известного писателя-фантаста Рея Брэдбери, который называется «Вельд». В нем идет речь о семье, живущей в суперсовременном, полностью автоматизированном доме. Главной примечательностью этого жилища является виртуальная комната. Каждый человек, который заходит в нее, может вообразить себе любую картину или ситуацию, после чего комната реализует этот его замысел, то есть превращается в то, что он себе представил. Дети (мальчик и девочка) очень любили с помощью этой комнаты играть в африканский вельд – выжженную солнцем пустыню, по которой бродят голодные львы. Со временем родителей серьезно обеспокоило это увлечение детей, которые играли только в вельд и ни во что больше. Посоветовавшись со знакомым врачом-психиатром, они решили увезти их на время в деревню, чтобы дети там немного отвлеклись от всех «удобств» их автоматизированного и компьютеризированного городского дома. Родители сказали детям о своем намерении отключить на время виртуальную комнату, что вызвало у тех длительную и бурную истерику. Ночью дети тайно проникли в эту комнату и что-то хитро перепрограммировали в ней таким образом, что виртуальный африканский вельд превратился в реальность. На следующий день они выпросили у родителей разрешения последний раз перед отъездом в деревню поиграть в виртуальной комнате. Через некоторое время дети, якобы для какой-то надобности, позвали в комнату родителей, выскочили из нее и заперли их внутри, оставив на растерзание настоящим голодным львам. После этого мальчик и девочка спокойно сели завтракать, счастливые от того, что больше никто и никогда не сможет отключить виртуальную комнату и – не запретит им играть в африканский вельд…

В настоящее время мы должны признать большую зависимость человека не только от компьютера, но и от всех прочих технических средств. А обретение зависимости в результате научно-технического прогресса заставляет усомниться в его безусловности. Как видим, прогресс подчас оказывается мнимым и иллюзорным, ведя нас не к процветанию и совершенству, а к бедам и деградации. Некоторые люди поняли это еще в древности.

Греческие киники (представители одной из философских школ Древней Греции) говорили, что блага цивилизации и прогресса не ведут человека к счастью, а, наоборот, ввергая его в зависимость от них, делают несчастным и призывали вернуться к первобытному единству с природой, обрести гармонию естества, чтобы быть такими же безмятежными, как птицы в небе или звери в лесу, которые не ведают алчности и зависти, лжи и ненависти.

По преданию, один из кинических философов – Диоген – жил в бочке и призывал людей вернуться назад к природе, ибо движение вперед, по его мнению, – это путь не в светлое будущее, а в бездну самоуничтожения. На вопрос Александра Македонского, что он может сделать для него, Диоген ответил: «Отойди и не загораживай мне Солнца». Что он хотел этим сказать? По всей видимости – следующее: «Ты воображаешь себя сейчас властелином мира, юный Александр, перед тобой трепещут народы и царства, ты прольешь реки крови и создашь необъятную империю. Но пройдет время, и твое могучее царство рухнет, и все, с таким трудом тобой создаваемое, пойдет прахом, и от дел твоих ничего не останется, равно как и от тебя самого, твоего величия и славы. И после тебя по Земле пройдут еще тысячи таких же тщеславных александров, которые так же превратятся в прах и тлен, а безмолвное Солнце будет так же неспешно ходить по лазурному небосводу, освещая и согревая всех, как и миллионы лет до тебя, Александр, и миллионы – после. Что ты по сравнению с вечностью мира? Не бесконечно ли смешны и жалки твои честолюбивые планы и наивное сознание собственного иллюзорного величия? Неужели суетным, вздорным и мимолетным делам человеческим должны посвящать мы свои взоры и помыслы, а не вечной красоте и гармонии необъятного мироздания, простому естеству природы и человека?».

Известный французский философ 18 в., один из представителей Просвещения – Жан Жак Руссо – также резко противопоставлял природное (все естественное, не созданное человеком) и социально-культурное (все искусственное, созданное человеком) и выступал с отрицательной оценкой последнего.

Между естественной и гармоничной жизнью чувства и искусственностью и односторонностью рассудочного мышления, говорит Руссо, существует неразрешимое противоречие. Чувство – это первичная форма духовной деятельности, которая появляется в историческом пути человечества и в индивидуальном развитии каждого человека гораздо раньше, чем разум, и обуславливает пусть инстинктивные и несознаваемые, но в то же время в высшей степени целесообразные движения и действия, делает человека единым со всем мирозданием, а также – внутренне целостным и потому счастливым. Развитие разума и цивилизации, с точки зрения Руссо, разрушило в человеке первоначальную гармонию, нарушило правильное отношение между потребностями и способностями, ослабило естественную мощь человека. Главная причина человеческих страданий – это разорванность, раздвоенность человека, порожденная выпадением его из первоначального естественного (природного) и гармоничного состояния и превращением его в разумное, цивилизованное, социальное существо. В этом своем состоянии человек раздваивается между своими возможностями и желаниями, долгом и склонностями, природной организацией и социальными учреждениями и т. д. и т. п., то есть, говоря иначе, не принадлежит самому себе. «Сделайте человека вновь единым, – говорит Руссо, – и вы сделаете его таким счастливым, каким он только может быть».

Идеи киников и Руссо о совершенстве природы и несовершенстве общества, о разрушительной силе цивилизации разделял русский писатель и философ Л. Н. Толстой. Вспомним, в романе «Война и мир» есть знаменитая сцена, почти полностью по смыслу совпадающая со встречей Диогена и Александра. Раненый князь Андрей лежит на поле Аустерлица. Он шел на войну 1805 года, завидуя славе и величию Наполеона и тайно мечтал так же прославиться. Он бросился вперед со знаменем в руках, увлекая за собой солдат и был сражен, лежал на поле и видел над собой бездонное небо, вечное и безмолвное, под которым люди от века убивали и предавали друг друга, отчаянно стремились к богатству и славе, суетились и сменяли друг друга поколение за поколением; тщетные помыслы и дела человеческие быстро проходили и навсегда исчезали, а это бескрайнее небо всегда оставалось. Около раненого Андрея оказался Наполеон, объезжавший поле битвы. Болконский смотрел на него, своего недавнего кумира, и понимал насколько смешон и жалок этот маленький тщеславный человек, мнящий себя сейчас властелином мира, насколько он ничтожен со всеми своими планами и делами перед глубиной и вечностью бескрайнего неба: ведь скоро ни от самого Наполеона, ни от его свершений ничего не останется, по Земле пройдут и сгинут неведомо куда еще тысячи таких же честолюбивых наполеонов, а небо останется и будет так же молчаливо смотреть на людскую суету, как смотрело тысячи лет назад. В эти минуты Андрей понял, что чем-то подлинным, вечным и истинным является естественная жизнь человека и природы, а не суетная жизнь социального организма, гордо называющего себя цивилизацией.

Все эти идеи, противопоставляющие природное и социокультурное и резко критикующие второе не казались особенно серьезными и не имели широкого распространения ни на заре человеческой истории, ни в Новое время. Над греческими киниками их сограждане и современники по преимуществу смеялись, Руссо был единственным известным представителем французского Просвещения, который выступил против апологии сухой рассудочности, науки, прогресса и вообще культуры, антицивилизационные идеи Л. Н. Толстого вызывали удивление и раздражение у многих его современников. Однако ситуация значительно изменилась к настоящему времени. Пессимистических прогнозов будущего, которое ожидает человеческое общество, становится все больше. И это неудивительно, ведь мы – люди рубежа тысячелетий – можем уже по-настоящему заглянуть за край той бездны, на котором стоим, приведенные туда пресловутым прогрессом цивилизации.

Данный текст является ознакомительным фрагментом.
Читать книгу целиком
Поделитесь на страничке

Записи созданы 8132

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Похожие записи

Начните вводить, то что вы ищите выше и нажмите кнопку Enter для поиска. Нажмите кнопку ESC для отмены.

Вернуться наверх