Колонка The Verge: ИИ-гаджеты размывают границу между обработкой данных и записью
Умные устройства могут анализировать звук и изображение, не сохраняя исходные файлы. The Verge обращает внимание на то, что созданные ими текстовые сводки тоже можно сохранить и пересмотреть, а общепринятых правил индикации такой обработки пока нет.
Обработка без сохранения исходной записи
The Verge рассматривает, как ИИ-гаджеты меняют привычное понимание записи. Раньше микрофон или камера обычно сохраняли звук либо изображение на устройстве, иногда отправляя данные в облако. Теперь компании обсуждают устройства, которые анализируют происходящее, но не оставляют видео- или аудиофайл.
По данным Bloomberg, Apple работает над домашней камерой, которая, как сообщается, не будет сохранять видеозаписи, а с помощью ИИ станет создавать текстовые описания происходящего. В публикации также упоминается возможное распознавание лиц без сохранения видеоматериалов. Похожий подход, как сообщал Bloomberg, могут использовать камеры в будущих AirPods.
В качестве уже существующего примера автор приводит функции Audio Intelligence на Apple Watch Series 12 и Apple Watch Ultra 4. Live Rewind создаёт расшифровку последних 15 секунд, а Siri Recap может составлять общие сводки разговоров за день. Apple заявляет, что эти функции не сохраняют аудио: исходные данные удаляются после обработки в отдельной защищённой среде на процессоре S11. Компания также говорит, что сведения, передаваемые в облако через Private Cloud Compute, недоступны ей и третьим сторонам.
Компании по-разному описывают работу устройств
Автор противопоставляет такой подход очкам Ray-Ban Meta, которые снимают фото и видео и сохраняют их на телефоне. Google тоже рассматривает возможность обработки изображения без сохранения видеоматериалов: старший директор компании по носимым устройствам Сандип Вараич рассказал The Verge, что умные очки могли бы использовать камеру лишь как датчик изображения.
По версии автора колонки, техкомпании могут считать записью только данные, которые сохранены и доступны для последующего просмотра. Однако текстовая расшифровка или сводка тоже может остаться на устройстве и быть пересмотрена. Поэтому вопрос не сводится к тому, сохранён ли исходный звук или видеоряд.
Людям сложно понять, что именно фиксирует гаджет
The Verge обращает внимание и на то, что правила поведения зависят от места: в ресторане, офисе, театре и общественном туалете ожидания приватности различаются. Устройства с ИИ могут требовать от владельцев внимательнее учитывать, что данные собираются не только о них самих, но и об окружающих.
У очков Meta мигающий белый индикатор сигнализирует о видеозаписи, но, отмечает автор, такой знак может быть непонятен людям, привыкшим к красному свету записи. Его могут закрыть волосы или яркое солнце. Другие производители не обязаны использовать такой же сигнал, а у кольца или подвески с возможностью записи индикатора может не быть вовсе. Внешне устройства, которые записывают данные, всё чаще могут быть похожи на те, которые этого не делают.
Автор призывает договориться о значении записи
По мнению автора, отсутствие камеры не решает проблему полностью: тревогу вызывает возможность того, что сохранённый фрагмент о человеке окажется на чужом устройстве и будет использован неизвестным образом. При этом персонализированные ИИ-сервисы, рассуждает колонка, стремятся получать сведения о повседневной жизни людей и запоминать их.
The Verge считает, что обществу необходимо договориться, что считать записью и кто вправе определять это понятие. Иначе новые устройства могут изменить ожидания в отношении приватности раньше, чем люди поймут, какие данные сохраняются, как их распознать и кто сможет к ним получить доступ.
We can’t just change the definition of ‘recording’