Google придумал, кто будет выдавать лицензии на AGI

Google придумал, кто будет выдавать лицензии на AGI Спойлер — сам Google. Индустрия честно признаёт, что не умеет проверять свои модели на безопасность. И тут же предлагает решение, изящное и понятное, создать орган, который будет их проверять. Кто заплатит за орган? Индустрия. Кто напишет тесты? Сами лаборатории.

Вице президент Google Демис Хассабис выкатил манифест c такой мыслью, — все фронтир-модели, независимо от страны и открытости кода, должны проходить тестирование перед выходом на рынок США. Нобелевский лауреат считает, что AGI дело нескольких лет, и сравнивает его не с интернетом или мобильной связью, а с открытием огня и электричества. Цитата:

«Мы, по сути, нашли способ заставить песок думать. Это чудо».

Дальше по классике техно паранои, развитие обгоняет понимание, «никто не знает наверняка, что будет, даже эксперты расходятся». Кибер-риски уже здесь, био и ядерные на подходе.

Предложение этого сына маминой подруги (он ровно такой тип) — создать независимый орган, финансируемый самой индустрией, подотчётный правительству. Лаборатории добровольно (пока добровольно) передают модели на проверку за 30 дней до релиза. Прошёл тесты — получаешь статус «Frontier-class», а твоя компания — почётное звание «Frontier Lab». Орган сможет координировать замедление разработки у конкурентов... у всех участников рынка.

Наблюдаю за регуляторными инициативами больших игроков не первый год, и схема всегда одна. Кто первым напишет правила, тот и решает, кому выдавать значки. Google, напомню, сам frontier lab, и предлагает механизм, где порог входа определяет комитет, а стартапы великодушно освобождены от проверок.

Полный текст манифеста здесь. Мнения?