ChatGPT – верный ассистент или коварный сборщик данных: мнение профессионала

По статистике, ежедневно ChatGPT пользуются почти 200 млн человек, а количество запросов составляет более 1 млрд. Это говорит о том, что нейросеть стала неотъемлемой частью нашей жизни, помогая в работе, учебе и творчестве. Ученый рассказал, какие запросы отправлять безопасно, а какими данными делиться не стоит. Подробности – в материале Агентства новостей «Доступ».

ChatGPT сохраняет все данные диалогов преимущественно для анализа и улучшения работы системы. Каждому сеансу присваивается уникальный идентификатор для отслеживания контекста беседы. Эти данные используются разработчиками для совершенствования алгоритмов и исправления ошибок.

Однако, коммуникацию с нейросетью нельзя назвать абсолютно безопасной, поскольку существует возможность намеренного сбора данных из ChatGPT спецслужбами, мошенниками или другими третьими лицами. Доказать или однозначно опровергнуть факты накопления информации сложно, поэтому эксперт рекомендует исходить из принципа наихудшего сценария.

«Следует считать, что любые сведения и запросы, переданные через интернет-сервисы, потенциально могут стать доступными неограниченному кругу лиц. Это означает, что конфиденциальные данные, доверенные ИИ, могут быть перехвачены злоумышленниками. Для достижения этой цели они могут задействовать и другие нейросети, помимо тех, которые вы используете и создавать фишинговые чаты – мошеннические схемы в привычных для обывателя мессенджерах, социальных сетях или даже внутри игр и приложений», – рассказывает доцент кафедры «Информационные технологии и автоматизированные системы» ПНИПУ, кандидат технических наук Даниил Курушин.

При использовании ChatGPT крайне важно избегать обсуждения тем, связанных с государственной тайной и другими видами конфиденциальной информации, включая коммерческие сведения о компаниях, персональные данные, банковские реквизиты и другие личные данные. Разглашение некоторых сведений может привести к серьезным юридическим последствиям, включая уголовное преследование, поскольку факт нарушения может стать известен правоохранительным органам.

«Даже нейтральные бытовые беседы теоретически могут использоваться для сбора статистических данных об интересах пользователей. Однако эта практика уже широко распространена через системы интернет-поиска и социальные сети, поэтому представляет сравнительно меньший риск по сравнению с передачей конфиденциальных данных», – дополняет ученый Пермского Политеха.

Опасность беседы с ChatGPT заключается не только в возможном сборе данных, но и в слепом доверии к системе. Подобные «помощники» не являются всезнающими истину инструментами, но в некоторых случаях действительно очень выручают.

«Их следует использовать преимущественно в тех областях, где вы сами являетесь специалистом и можете проверить достоверность ответов. В противном случае надежнее обращаться к проверенным энциклопедическим источникам и экспертной информации», – комментирует Даниил Курушин.

Первоначально ChatGPT и был создан чтобы помочь пользователям в решении различных задач. Замыслы, лежащие в основе современных нейросетей, таких как ChatGPT, уходят корнями в научные работы 70-80 годов прошлого века. В книге «Компьютер 0Ц творец» (1984 год) британские ученые Дональд Мичи и Рори Джонстон предсказали, что компьютеры будущего смогут не только вычислять, но и генерировать идеи, помогать в научных открытиях и даже создавать произведения искусства. Любопытно, что авторы предвидели и этические дилеммы, включая вопросы авторского права и потенциальное злоупотребление возможностями ИИ.