В условиях все более доминирующей роли искусственного интеллекта (ИИ) в мире, обеспокоенность по поводу конфиденциальности нарастает, особенно в ходе общения с чат-ботами. Недавняя статья Лилы Шрофф для The Atlantic подчеркивает, как такие компании, как OpenAI и Anthropic, накапливают огромные объемы журналов чатов, зачастую при нестрогих политиках обработки данных. Эти записи, полные личных данных, представляют собой значительный риск для таргетированной рекламы, которая может эксплуатировать 'самые интимные секреты' пользователей.
Люди часто чувствуют себя более комфортно, раскрывая личную информацию ИИ, чем человеческим собеседникам, так как чат-боты не являются людьми. Эта динамика, как отмечается в статье, может привести к тому, что пользователи будут делиться чувствительными данными, которые могут быть использованы в рекламных целях. Потенциал использования журналов чатов в расследованиях преступлений добавляет еще один уровень обеспокоенности.
С ростом давления на компании ИИ с целью монетизации своих продуктов риск злоупотреблений становится 'всё более актуальным.' Недавние объявления, такие как план Snapchat по персонализации рекламы на основе разговоров с его встроенным чат-ботом, указывают на то, что слияние ИИ и рекламы неизбежно.