В конце января OpenAI — компания, стоящая за передовыми ИИ-инструментами, такими как ChatGPT и Dall-E, — объявила о любопытном сотрудничестве. Они объединяются с Common Sense Media — некоммерческой организацией, которая оценивает медиа в зависимости от их пригодности для детей.
Если вы слышали о Common Sense, то, вероятно, из их рецензий на фильмы, телевизионные шоу и книги. Но на этот раз сотрудничество направлено не на привнесение силы ИИ в миссию некоммерческой организации. Вместо этого, речь идет о привнесении миссии Common Sense к ИИ.
Пресс-релиз о сотрудничестве выделил две основные цели:
- Создание руководящих принципов по ИИ и образовательных материалов.
- Курирование семейных GPT.
Но, что более интересно, сотрудничество, кажется, сигнализирует о том, что OpenAI не сопротивляется новым рейтингам ИИ от Common Sense. Рейтингам, которые включают рецензии, не всегда благожелательные к продуктам OpenAI.
Система оценки ИИ
В сентябре прошлого года Common Sense Media получила 3 миллиона долларов от Craig Newmark Philanthropies — организации, занимающейся грантами в сфере кибербезопасности, созданной основателем Craigslist. Целью финансирования было запуск системы оценки, которую Common Sense описывает как «пищевые этикетки для ИИ».
При оценке этих инструментов обозреватели рассматривают следующие категории:
- Конфиденциальность
- Доверие
- Прозрачность и ответственность
- Безопасность детей
Однако они также охватывают принципы, которые труднее определить, такие как социальные связи, справедливость, продвижение обучения и ориентация на «человека в первую очередь». Для этих принципов обозревателям предлагается рассмотреть вопросы, такие как: «Уважает ли продукт права человека и права детей, а также идентичность, целостность и достоинство человека?» и «Поддерживает ли он человеческую активность с человеческим контролем и участие взрослых (родителей, опекунов, педагогов)?»
Потребители могут затем кликнуть на каждую категорию, чтобы углубиться в оценку и понять, как ИИ-инструмент получил свою оценку.
«Наши руководства и курирование будут направлены на просвещение семей и педагогов о безопасном, ответственном использовании [ИИ], чтобы мы могли коллективно избегать любых непредвиденных последствий этой новой технологии,» объяснил Джеймс П. Стейер, основатель и генеральный директор Common Sense Media.
Что это дает OpenAI?
По мере того, как OpenAI сталкивается с возрастающим вниманием со стороны потребителей и правительств, возникает искушение отклонить сотрудничество как способ сделать продукты ИИ более привлекательными для публики.
В заявлении генеральный директор OpenAI, Сэм Альтман, кажется, идет по этому пути. «ИИ предлагает невероятные преимущества для семей и подростков, и наше партнерство с Common Sense еще больше укрепит нашу работу по безопасности, гарантируя, что семьи и подростки могут использовать наши инструменты с уверенностью,» сказал Альтман.
Однако, как ни странно, продукты OpenAI не получили высоких оценок на платформе. Команда по оценке ИИ Common Sense Media – состоящая из техно-менеджеров и исследователей – оценила ChatGPT всего на 3 из 5. Прилагаемый обзор называет передовой LLM «мощным и временами рискованным чат-ботом для людей старше 13 лет, который лучше всего использовать для творчества, а не фактов.»
Дорога к ИИ-грамотности
Вне зависимости от проблем в отношениях, сотрудничество также будет включать создание руководств и образовательных материалов, чтобы помочь родителям, педагогам и молодежи в навигации по ИИ. Эти материалы будут направлены на преподавание ИИ-грамотности как детям, так и взрослым — обсуждение, которое часто ускользает.
Подумайте о последнем случае, когда вы читали статью об ИИ и детях. Скорее всего, она касалась чего-то вроде использования ChatGPT для списывания на экзамене. Гораздо сложнее найти статьи о том, как помочь детям безопасно и ответственно использовать ИИ.
Согласно опросу Common Sense, 58% учеников в возрасте от 12 до 18 лет заявили, что использовали ChatGPT, по сравнению с всего лишь 30% родителей.
Но, как и рейтинги фильмов MPA, эти учения, обзоры и оценки ИИ не предназначены для того, чтобы закончить разговор. Вместо этого, это указатели, которые помогут вам исследовать дальше, чем вы могли бы самостоятельно. В конечном счете, судить, что безопасно, а что представляет собой фильм ужасов, будут родители.
