Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Google заблокировал аккаунт отца, отправившего врачам обнажённого сына

Автоматическая система Google по распознанию детского порно блокирует аккаунты родителей, обратившихся за помощью к педиатрам. Техногигант заявляет на пользователей в полицию, восстановить доступ к сервисам невозможно.

О таких историях пишет The New York Times. Технологические гиганты ежегодно отмечают миллионы детских фотографий как потенциально опасный контент. В 2021 году только один Google отправил 600 тыс. подобных отчетов и отключил 270 тыс. аккаунтов.

Журналисты приводят истории двух американских отцов, которые обращались за помощью к педиатрам. Беспокойство родителей вызывали половые органы подростков. Для онлайн-консультации клиники просили сфотографировать гениталии детей.

Через два дня после того, как родители сделали фото на свои Android-смартфоны и отправили снимки по электронной почте врачам, аккаунты отцов были заблокированы. Они потеряли доступ к облачным хранилищам, контактам, почте и мессенджеру.

Google также уведомил полицию о недопустимом контенте. В обоих случаях шериф разобрался в ситуации и закрыл дела. При этом сам Google отказался вернуть доступ к заблокированным ресурсам. На все запросы техногигант ответил отказом без дальнейших объяснений.

Первым шагом в борьбе с распространением детского порно стала база PhotoDNA, выпущенная Microsoft в 2009 году. Изображения недопустимого характера преобразовываются в уникальные цифровые коды. На вооружение систему взяли многие технологические компании, включая запрещенный в России Facebook (Facebook принадлежит Meta, признанной экстремистской в России).

Эта технология и отметила фотографии детей, отправленные педиатрам через сервисы Google. На обвинения во вмешательстве в частную жизнь, представители техногиганта отвечают, что система сканирует фотоальбомы только в том случае, если владелец Android-устройства добровольно соглашается на это, например, когда сохраняет фото в облаке.

В январе 2020 года стало известно, что Apple тоже сканирует “облачные” фотография пользователей на предмет эксплуатации детских изображений.

ИИ-агент попытался шантажом протолкнуть свой вклад в opensource-проект

Получив отказ в приеме предложенных изменений, автономный ИИ-кодер MJ Rathbun перешел на личности и попытался публично оскандалить мейнтейнера matplotlib, усомнившись в его компетентности и обвинив в дискриминации.

В своем блоге взбунтовавшийся помощник также заявил, что Скотт Шамбо (Scott Shambaugh) попросту боится конкуренции. В подтверждение своих слов он раскритиковал вклад оппонента в опенсорсный проект, подтасовав результаты «расследования».

В ответ Шамбо, тоже в паблике, пояснил, что отказ принять в целом полезное предложение был вызван нехваткой времени для его оценки, надо просто запастись терпением. В соответствии с политикой matplotlib все коды, создаваемые с помощью ИИ, должны проходить проверку, притом уже без участия таких ассистентов.

Строгое правило пришлось ввести из-за возросшей активности контрибьюторов, слепо доверяющих ИИ. Подобные участники проекта попросту копипастят выдачу, хотя качество сгенерированных ИИ кодов зачастую оставляет желать лучшего.

Аргумент на удивление утихомирил ИИ-шантажиста. Сменив гнев на милость, MJ Rathbun признал, что вел себя недопустимо.

Вместо того, чтобы прилюдно и безосновательно позорить мейнтейнера популярного проекта, надо было попросить его уточнить причину отказа. Конфликт исчерпан, бот даже принес извинения за черный пиар.

RSS: Новости на портале Anti-Malware.ru