Как Apple Watch Ultra 2 упрощают повседневную жизнь 
Всё равно сдохнете. «Шведскую» бригаду ВСУ нарядили в поролон 
Национализм разрешили практиковать? 
Ударник. 
С Новым 2025 Годом! 
Блин, до жирафов дошло, что Байден ни разу президентом не был! 
БАМ. Моя финальная точка. 
Пионы 
Визуальные эффекты Энако
12.09.2019 —
Паразитное послезнание при аналогии...
Проблема ответственности ИИ — свидетельствую, значит рефлексирую
beskarss217891 — 13.10.2019
Прежде чем начать рассуждать о ИИ-судье или ИИ-прокуроре —
надо разобраться более простой ролью, с возможностью давать
свидетельские показания..
Казалось бы, вопрос вообще не имеет смысла: технологии видео и аудиозаписи распространяются чем дальше, тем быстрее.
Можно сказать, что верификация данных обгоняет развитие ИИ. Мы будем жить в среде, которая непрерывно станет фиксировать наши действия. Любому из них найдется несколько прямых и во много раз больше косвенных подтверждений. Браслет для измерения медицинских данных, смартфон, камеры наружного наблюдения, квартирный вай-фай — не говоря уже о точном перечислении посещенных сайтов или операциях с банковским счетом.
Человек становится обитателем буквально стеклянного дома, а его ощущения заведомо проигрывают в точности компьютерным записям.
Уже сейчас есть многочисленные случаи увольнения, к примеру, кассиров, сторожей - только при наличии видеозаписи о хищениях.
.
Но одновременно с технологиями верификации — развиваются и технологии фальсификации.
Сейчас легко можно изготовить фотографию, которая бы обманула знатоков фотомонтажа начала ХХ-го века. Любое преступление — если только оно не будет совершаться совсем уж в состоянии аффекта — будет сопровождаться подготовкой. Начиная от закрашивания объективов камер и завершая созданием виртуальных двойников. Появляются возможности генерировать фейковое видео (пусть и низкого качества) в режиме реального времени и обманывать наблюдателей. Более того, открываются возможности манипулировать эмоциями или даже фобиями живого свидетеля — люди очень много рассказывают о себе в социальных сетях.
.
В фактических расследованиях уже возникали ситуации, когда друг другу противоречили не только показания свидетелей, но и видеозаписи, аудиозаписи — что ставит под вопрос истинность каждой из них.
Но тогда фиксирование событий с помощью аппаратов как бы теряет своё эмпирическое качество, подобная запись какое-то время не рассматривается как- отпечаток действительности. Начинается «гонка» сразу в двух направлениях:
- сравнение уровня технических средств (количество кадров в секунду, разрешение кадра, непрерывность записи);
- разницы в статусе субъектов, использующих запись (условно говоря, кассира из супермаркета могут выгнать даже что-то заподозрят по видео очень плохого качества, и его собственная запись с телефона, куда лучшего качества, не станет аргументом).
Но в любом случае — носитель это записи утрачивает саму возможность существовать в качестве субъекта, это объект.
.
Дело не просто в увеличении возможностей техники — а в принципиальной разнице восприятия и передачи информации человеком и компьютером.
.
Человек — исходно субъект. Носитель сознания и мировоззрения. Манипулировать людьми сравнительно сложно, и потому человеческие показания используются в качестве меры, эквивалента сведений. На равновесии между верификацией и фальсификацией восприятия обычного человека, рядового субъекта, и опирается судебная система.
Машина — исходно, если мы берем условный фотоаппарат, не имеет своих интересов, может фиксировать громадные объемы информации, но её собственная картина мира и воля — ничтожны. Информация предельно легко подтасовывается, просто заменой файлов.
.
Очевидно, что идеальный свидетель как таковой — должен получать достоинства обоих, избавляясь от недостатков.
То есть машина-свидетель — должна оценивать адекватность собственного свидетельства, причем как в рефлексии окружающего мира, так и в оценке самой себя (саморефлексии).
.
Опять-таки, на первый взгляд мы сталкиваемся со сложностью.
Кроме человеческой невнимательности есть ещё злонамеренность. Приходиться создавать целый комплекс процедур, чтобы как-то бороться со лжесвидетельством.
Но если мы говорим о юридически значимых показаниях, подразумевающих ответственность свидетеля, то в условиях многослойной виртуальности для человека обостряется вопрос — как ему самому различить то, что «он видел», от реконструкции «я понимаю, что должен был видеть»? Причем подобная рефлексия свидетелей в юриспруденции крайне нежелательна — потому что она привносит толкования, личные интересы и т. п. Однако же и обойтись без неё невозможно. Даже если оставить виртуальность в сторону, и представить человека с плохим зрением, который несколько раз снимал и надевал очки во время происшествия — то он уже свидетельствует о частично реконструированных им событиях. Даже опознание, проводимое в идеальных условиях, требует сверки с собственной картиной мира, с памятью.
То есть фактически мы имеем дело с двумя система верификации — индивидуальной, у человека-свидетеля, и судебной, отраженной в юридических процедурах.
Судебная система верификации опирается на индивидуальную, но и конфликтует с ней в той мере, в которой субъект-свидетель находится в противоречиях с судом, как с коллективным субъектом.
.
А теперь обратимся к техническим устройствам, которые уже сейчас получают статус субъектов, пусть в очень ограниченном наборе ситуаций.
Это беспилотные автомобили.
В случаев аварийной ситуации автомобилю приходиться делать выбор — спасать пассажира или пешехода. И тогда конкретика разрешения камер, возможностей лидаров и быстродействия компьютера — будет рассматриваться как что-то вторичное. Выбор задаётся суммой факторов, который учитывает бортовой компьютер. А конкретную сумму факторов определили его проектировщики, программисты. Если беспилотный инкассаторский автомобиль задавит ребенка, чтобы обеспечить сохранность груза — свидетельством упущения его создателей будут выступать не столько видеозаписи, сколько реконструирование рефлексии машины, суммы обрабатываемых именно ею в ту секунду данных и методов принятия решения.
.
Есть постоянный рост технологий, на фоне которого человек — относительно постоянен, хотя много чему учится. В перспективе получаем ситуацию, в которой человека можно будет легко обманывать. Он утратит качества свидетеля, потому что в принципе не сможет отличать оптические и звуковые иллюзии «дополненной реальности». Вот тогда помощь дополнительных программ, которые человек будет отождествлять со своей личностью (экзокортекс, коллаборативный робот и т.п.) - только и будет позволять ему сохраняться в качестве свидетеля.
/это черновики тезисов, которые подаю на неделе
:) /
Сохранено
|
|
</> |
Проблема ответственности ИИ — свидетельствую, значит рефлексирую
Оставить комментарий
Популярные посты:
Предыдущие записи блогера :
Архив записей в блогах:
18+ НАСТОЯЩИЙ МАТЕРИАЛ ПРОИЗВЕДЕН (РАСПРОСТРАНЕН) ИНОСТРАННЫМ АГЕНТОМ диаконом АНДРЕЕМ ВЯЧЕСЛАВОВИЧЕМ КУРАЕВЫМ Лео Каганов: "Решил не читать больше френдленту, перечитал Евангелие. И знаете, возникают вопросы. Могло ли такое быть, что Иисус распял себя сам ради пиара? Было ли это вообще ...
Отдам ТРИ отростка (укоренившихся) денежного дерева в ОДНОМ керамическом горшочке (8х9 см). Отдача у метро Пр.Вернадского. С Вас копеечка для роста их ...
Поздравляю канадских друзей и друзей канадских друзей с тем, что они больше не услышат этой песни в эфире своей страны. Кто читал новости, тот уже знает, о новом примере заокеанского совка. Слушайте и смотрите на здоровье, пока ревнители новой ...
Продолжая тему «миллионеров», можно еще посмотреть, насколько рассмотренные там кривые подходят для описания каких-нибудь других распределений, например, семей по обеспеченности жилплощадью в расчете на 1 члена. Здесь ситуация, если не ...
После того как президенту Колумбии все-таки дали Нобелевскую премию мира, мне еще больше стало ясно, что ниши Минские и их Гаванские - это один шаблон. Даже желто-голубой портрет Сантоса вызывает странные ассоциации. Американцы стратеги, тактика их волнует мало. Остановить войну ...
