Банки Израиля смогут пользоваться ИИ без разъяснений, но не смогут списать на него ответственность за ошибки

Межведомственная группа по изучению применения искусственного интеллекта в финансовом секторе опубликовала итоговый доклад, определяющий новые рамки использования ИИ для банков, страховых компаний и инвестиционных домов в Израиле.

В состав группы вошли представители Банка Израиля, Управления по надзору за рынком ценных бумаг, Управления по надзору за рынком капитала, страхования и пенсионных накоплений, Антимонопольного управления и министерства юстиции.

Одной из ключевых целей доклада было решение "проблемы черного ящика" при работе с технологиями глубокого обучения (Deep Learning). Речь идет о системах, способных принимать точные решения на основе огромных объемов данных, однако сам процесс принятия решений порой остается загадкой даже для разработчиков.

Группа рекомендовала не блокировать использование этих технологий, однако постановила, что ответственность за любой ущерб, причиненный клиенту в результате работы искусственного интеллекта, будет в полном объеме возлагаться на использовавшую ИИ финансовую организацию. Банки и другие институциональные структуры не смогут переложить ответственность за ущерб на разработчика ИИ-платформы или поставщика ПО. На включение такого переноса ответственности в контракты с клиентами накладывается категорический запрет.

Кроме того, организации будут обязаны обеспечить "общую объяснимость" логики и принципов работы системы, но не будут обязаны объяснять клиенту индивидуально, почему в его случае было принято конкретное решение. Здесь также было предусмотрено исключение для особых случаев с повышенным риском при отсутствии адекватных альтернатив. Эта оговорка призвана гарантировать, что на критически важных для клиента этапах, где отсутствует человеческий контроль, искусственный интеллект не станет "последней инстанцией", не несущей ни перед кем ответственности.