КАК КОМПАНИИТЕ ОТ ТЕХНОЛОГИЧНИЯ СЕКТОР СЛЕДВА ДА СЕ ОТНЕСАТ С ОТГОВОРНОСТТА ПРИ ГРЕШКА НА ИЗКУСТВЕН ИНТЕЛЕКТ – ИИ
Несъмнено технологичния сектор все повече разработва програми, приложения и други софтуерни иновации включващи изкуствен интелект. Ние използваме под някаква форма изкуствен интелект посредством ежедневните ни устройства, като телефони, таблети, компютри, различни видове приложения и т.н. Независимо дали го осъзнаваме или не, изкуственият интелект е неизменна част от живота ни. За всички онези, които се съмняват, Ви информираме, че дори последните версии на Powerpoint разполагат с подобна модификация. Във времена на изключително висок технологичен напредък и иновации не много хора извън професионалните среди си задават изключително важния въпрос – Кой носи отговорност при грешка на изкуствен интелект ?“ Програми и приложения използващи ИИ се срещат в не един сектор, като финанси и капиталови пазари, счетоводство, търговия, медицина и редица други.
Всички компании, които разработват и предлагат софтуери с изкуствен интелект следва да помислят за финансовата и съдебната отговорност, която носят.
Използването на ИИ повдига редица правни и законодателни въпроси, върху които е абсолютно наложително да бъдат намерени решения. Към настоящият момент това поставя в риск ИТ компаниите. Например диагностицирането на здравословен проблем и предписването на лечение посредством ИИ набира все по-голяма скорост. Подобни процедури рано или късно ще бъдат облечени в регулаторна рамка. Пациентите не могат да бъдат оставяни, да вземат решения за които не са компетентни. Необходимо е да работи в насока заключенията на ИИ да бъдат потвърждавани от лекар, който да верифицира с подписа си, както диагнозата, така и лечението. Овен това от етична гледна точка, следва да бъде ясно посочена и отговoрността на разработващите ИИ за медицински цели. Естествено, не трябва да се неглижира и отговорността на самия пациент при вземане на информирано съгласие, при съгласие с диагнозата и лечението.
Ще бъде ли подготвен ИТ сектора за имплементирането на законодателството?
Към настоящият момент текат интензивни процеси на европейско и глобално ниво за изработване на пълна и всеобхватна рамка касаеща ИИ. Във финансовата и счетоводната сфери, където може би ИИ се среща най-интензивно, вредоносните последици и загуби биха могли да бъдат в неизмерно високи единици. Да вземем пример ИИ, който събира финансови отчети. Следва да бъде предвиден човешки фактор, който да гарантира достoверността на така събраната и обработена информация, както и набор от механизми за надзор, които ефикасно да удостоверяват верността на информацията. Считаме, че този момент следва да бъде предвиден от ИТ компаниите. По този начин е налице проследимост на предоставената информация и при обработка, и анализ на данни от няколко контрагента. С този механизъм ще е известно от кого да се търси отговорност.
Едни евентуални съдебни производства биха могли да прекратят съществуването на технологична компания.
Не по различно е и при търговията. Да кажем, че контрагент направи поръчка чрез ИИ и вместо 10 бройки, отбележи 1 000. Кой ще носи отговорност за транспортните разходи ? Бихме могли да стигнем и по-далеч. Ако това са последните 1 000 бройки от даден продукт и междувременно друг клиент желае да закупи точно тези финални бройки, но бъде информиран за изчерпаност на продукта, без реално да е. Не следва ли разработчикът или доставчикът на ИИ да отговарят не само за причинени вреди, но за пропуснати ползи ?
Възможните решения:
Компаниите разработващи ИИ следва ясно да определят разпределянето на отговорността между създателя, доставчика, ползвателя и субектът върху когото са произтекли вреди, независимо дали се касае за клиенти или бизнес партньори. Например една компания разработва ИИ за финансова институция, страните сами следва да уредят кой ще носи отговорност при грешка на ИИ или при възникване на въпрос, който е в несъответствие със законодателната рамка.
В здравеопазването нашето категорично мнение е, че процесът по диагностициране и лечение следва да бъде контролиран от човешки фактор. Определено не можем да оставим живота на хората в ръцете на машини или поне, още сме далеч от тези времена. Все пак, трябва да се отбележи, че ако пациентът е на мнение за категорично следване на диагнозата и лечението поставени от ИИ, въпреки несъгласието на медицинския персонал, то е необходимо да бъде подписана документация освобождаваща лекаря и лечебното заведение от каквато и да е отговорност. Видно е, че тук освен за ИТ компаниите, съществува и риск за медицинските заведения.
Превенцията, ясно разписаните правила и условия са ключови за технологичния сектор при справяне с правните рискове при грешки на ИИ.
Във всички случаи при работа с изкуствен интелект от Иванчов и Партньори сме на твърдото мнение, че е налице необходимост от специализирана програма, която да осъществява надзор, механизъм за двустепенна система за контрол на изводите и заключенията на ИИ, която да бъде разработена от ИТ компаниите. Регулаторните органи, както на местно, така и на глобално ниво е необходимо да осигурят една яснота на отговорността, посредством прозрачни правила. Разбира се във времена на глобална икономическа конюнктура бизнесът и индустриите следва да вземат отношение и категорични позиции, във връзка с ИИ.
Застраховане
Накрая технологичните компании, но в никакъв случай не на последно, следва да работят в насока, изработка на застрахователни покрития при въпроси свързани с вредоносни събития при ИИ. Не е ясно доколко застрахователните дружества биха откликнали на подобни инициативи, но ако бъдат разработени методологии, чрез които ИИ да бъде контролиран във всички стъпки от хора, гарантиращи разумното му използване, сме на мнение, че застрахователния сектор би следвало поне да обмисли възползване от възможността.
Ако искате да помогнем и на Вас да решите правни въпроси свързани с Изкуствен интелект, свържете се с нас на тел. +359 893 483 463 или ни пишете на laweyr@ivanchovandpartners.com.
Настоящата статия не представлява правно становище или правен съвет. Авторът на статията не носи отговорност за предприемане на каквито и да е правни действия, въз основа на съдържанието й.
