Скільки точилося дискусій про відповідальність за шкоду, заподіяну обладнанням із компонентами на основі штучного інтелекту! Лишаючи осторонь Директиву щодо відповідальності за продукти з дефектами, прогалини у Директиві щодо машин й механізмів та неврахування нею особливостей штучного інтелекту лишали чимало можливостей для спекуляцій. Тепер, коли ЄС запропонував підхід до штучного інтелекту, починають проглядати контури регулювання. Чого ж очікувати стосовно машин й механізмів з використанням технологій штучного інтелекту за новими правилами?
Загальна концепція зводиться до наступного.
Програмне забезпечення, що охоплює функції безпеки додано до переліку машин й механізмів із високим ризиком та до індикативного переліку компонентів безепеки. А системи штучного інтелекту вказані як різновид у розрізі цих переліків.
Машини й механізми із вбудованими системами штучного інтелекту, що забезпечують функцііх безпеки також додано до переліку машин й механізмів із високим ризиком.
Ці системи штучного інтелекту та машини й механізми із вбудованими системами штучного інтелекту тепер мають відповідати певним вимогам аби подолати поріг високого рівня захисту користувачів та бути введеними в обіг чи введеними в експлуатацію.
Основний принцип у світлі нових правих тепер полягає у наступному.
Якщо машини й механізми мають у складі систему штучного інтелекту, то під час оцінки ризику має також оцінюватися й ризик щодо такої системи штучного інтелекту, відповідно до майбутнього так званого Закону про штучний інтелект, що він є окремою частиною (центральною частиною, ядром) підходу ЄС до штучного інтелекту.
Під час здійснення оцінювання ризику машин й механізмів, виробник має визначити загрози, які можуть створюватися таким продуктом та пов’язані із ним небезпечні ситуації. Це включає загрози, створювані під час усього життєвого циклу таких машин й механізмів, як їх можна передбачити станом на введення його в обіг. У тому числі, очікуване його вдосконалення (повне або часткове) в частині поведінки або логіки через закладений у нього потенціал функціонування із різними рівнями автономності.
Здійснивши оцінку ризиків, виробник має визначити вимоги щодо безпеки й уникнення шкоди здоров’ю, які підлягають застосуванню до цього продукту. Та вже з огляду на них, має здійснюватися проектування й конструювання цього продукту, з метою відвертання й зниження ризиків за результатами їх оцінки.
Нові правила також охоплюють питання технічної документації. Вона має висвітлювати засоби, за допомогою яких виробник досягає відповідності машин й механізмів вимогам щодо безпеки й уникнення шкоди здоров’ю.
У тих випадках, коли у контексті програмного забезпечення фігурують системи штучного інтелекту, коли продукт (кінцевий чи призначений для виготовлення іншого продукту) використовує сенсори, керується дистанційно чи є автономним, коли пов’язані зі забезпеченням безпеки операції контролюються даними сенсорів, технічна документація має включати опис (коли це є здійсненим) загальних характеристик, можливостей та обмежень самої системи, даних, використовуваних процесів розробки, тестування й перевірки.
Наводяться також додаткові нюанси, які доповнюють цю загальну концепцію.
Так, оновлення програмного забезпечення, яке не бралося до уваги під час первісного оцінювання ризиків та яке має вплив на рівень безпеки, має розглядатися як істотна зміна та вимагає проведення нового оцінювання ризиків.
Можливі випадки, коли машини й механізми істотним чином модифікуються. Той, хто це робить, починає розглядатися як виробник та має забезпечити виконання встановлених для виробника обов’язків.
Для сторонніх осіб, які у тому чи іншому вигляді беруть участь у процесі створення машин й механізмів, встановлено обов’язок докладати зусиль щодо забезпечення відповідності встановленим вимогам.
Отже, порівнюючи із існуючим станом, регулювання за новими правилами вже не лишає поза увагою машини й механізми з елелементами штучного інтелекту.
Ще буде потрібний час аби нові правила стосовно машин й механізмів з використанням технологій штучного інтелекту були затверджені, та навіть після цього вони підлягатимуть застосуванню лише через два з половиною роки після набрання чинності.
Це забезпечує виробникам та залученим у виробничі процеси стороннім особам достатньо часу аби адаптуватися до нових вимог. Разом із тим, така адаптація не є швидкою, особливо у таких випадках, коли до певної сфери раніше не висувалося вимог та коли вона перебувала поза регулюванням. Що обумовлює необхідність для виробників й сторонніх осіб у сферах не перетині із технологіями штучного інтелекту починати розглядати регуляторні вимоги та підходи до їх впровадження у бізнес-процеси й виробничі процеси навіть ще до того моменту, коли нові правила будут затверджені.
