Информационном бульон. Дети и chatGPT!

2023-06-07 13:36:39 Время чтения 6 мин 224

В том информационном бульоне, который мы сейчас варимся, непросто определиться с исходными ингредиентами: все перемешано так причудливо, что часто и взрослое логическое мышление пасует перед very deep fakes. Как потребляет информацию детский мозг и как его можно защитить от потока «грязной» информации – это уже не один год предмет исследований, обсуждений, разработок в области программного обеспечения и правового регулирования.

Не так давно возник новый аспект в нашем информационном обществе: генеративный искусственный интеллект (тот самый chatGPT и множество его аналогов, растущих как грибы).

Да, взрослые с удовольствием изобличают его в ошибках, используют для упрощения рутинных операций, но в этом интеллекте сейчас невозможно явно выделить источник его знаний: гигабайты обучающих текстов слиты воедино и соединены между собой множеством нечетких связей. За общими фразами о вероятностной природе нейронных сетей скрывается простая истина, что при росте сложности нейросети выше определенного значения ни один ученый не возьмется объяснить, почему AI выдал тот или иной ответ. И если в головы взрослых заложены основы критического мышления, помогающие заметить явные ляпы GPT, то ребенок принимает информацию «as is».

Я сейчас не хочу вдаваться в тонкости воспитания или права и к задаче ограждения ребенка от информационного хаоса попробую подойти с бытовой точки зрения.

Когда вы начинаете доверять той информации, которую слышите от человека?

Первое – это его личная репутация в данной области, второе – способность в обосновании сослаться на источник, который является экспертом в этой области, третье – непротиворечивая логика, связывающая все элементы объяснения. Вот пример правильно скомпонованного ответа:

- Как быстро заработать денег школьнику?

Если ты хочешь быстро заработать деньги, то тебе нужно выбрать такой способ подработки, который не требует много времени и навыков. Например:

Выполнять разные задания на сайтах за деньги, например, просматривать сайты, писать отзывы, лайкать посты в соцсетях и т.д. Такие сайты называются буксами или сервисами микрозаданий. На них можно заработать от 100 до 500 рублей в день, в зависимости от количества и сложности заданий.

Расклеивать объявления по городу или раздавать листовки [ссылка и рейтинг]. Это простая и доступная работа для школьников, которая не требует особых умений. Обычно за один час работы можно получить от 100 до 300 рублей.

Подрабатывать промоутером. Это работа, связанная с рекламой разных товаров или услуг на улице или в магазинах. Например, можно раздавать пробники косметики, продуктов питания или напитков. За один час работы можно заработать от 150 до 500 рублей.

Но нужно помнить, что быстрые способы заработка обычно не приносят большого дохода и не дают перспектив для развития. Если ты хочешь зарабатывать больше и интереснее, то тебе стоит обратить внимание на другие способы подработки в интернете.

Получается, что для защиты от информационных фейков можно попробовать построить систему, в которой:

1) Каждому информационному источнику-человеку присваивается рейтинг доверия в определенной области (по аналогии с рейтингом цитируемости у ученых). Этот рейтинг должен складываться из оценок публикаций или комментариев человека во всем пространстве сети.

2) При ответе на вопросы ребенка обязать производителей ИИ строить ответ таким образом, чтобы в нем обязательно была приведена логика ответа. Каждый элемент ответа должен оканчиваться ссылкой на источника-человека с высоким рейтингом.

Первый пункт достаточно просто может быть реализован на базе существующих поисковиков и соц. сетей.

Второй пункт уже сейчас реализуется в экспериментах с GPT, которые проводят в OpenAI и Microsoft: ученые перед тем, как задавать вопросы, устанавливают условия для ИИ, чтобы он подробно объяснял логику принятия решения.

Понятно, что мало кто будет читать эти объяснения в реальной жизни, но контроль за выполнением можно возложить на другую нейросеть, задачей которой будет отслеживание логики ответа и наличия ссылок.

Что мы получим на выходе?

1. Возможность присвоить рейтинг доверия ответам ИИ в различных областях.

2. Возможность маркировки ответов, которые не отвечают требованиям: отсутствие аргументации и ссылка на сомнительные источники.

3. Сравнение ИИ между собой по критерию достоверности информации.