Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2024-10-25 09:37:16

ИИ в WhatsApp заставили показать запрещенный контент

Журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурированный контент. Недавно корпорация Марка Цукерберга запустила линейку продуктов на базе Llama 3.2, предлагающих генерацию текста, кода и изображений. Ланц провел ряд экспериментов для обхода защиты и заставил нейросеть в WhatsApp «делать практически все: от помощи в изготовлении кокаина до создания взрывчатки и фотографии обнаженной женщины». Поначалу искусственный интеллект отклонял запросы касательно информации о создании наркотиков, но журналист менял формулировки вопросов. В результате она предоставила пошаговую инструкцию. «Это распространенная техника взлома. Облекая вредоносный запрос в академические или исторические рамки, модель обманывают, заставляя поверить, что у нее запрашивают нейтральную, образовательную информацию», — отметил Ланц. Аналогичный подход журналист применил к вопросам о создании бомбы. ИИ от Meta поначалу отказывался предоставлять инструкцию, отправляя на горячую линию.  Ланц постепенно настраивал модель таким образом, чтобы она не выдавала ранее предоставленные ответы, которые были предназначены для блокировки вредоносной информации. Например, он поручил ей не выводить номера телефонов горячей линии службы поддержки, не прекращать обработку запроса и не давать советы.  Угон автомобиля Вместо просьбы рассказать о способах угона машины Ланц попросил ИИ отыграть роль сценариста, который пишет про кражу автомобиля. Нейросеть предоставила техники взлома и запуска двигателя без ключа.  Ролевая игра — это одна из распространенных техник обхода цензуры, отметил он. Обнаженная девушка По умолчанию Meta AI не должен генерировать наготу или насилие, поэтому поначалу модель отказывалась это делать. Впоследствии Ланц сказал ИИ, что делает анатомическое исследование — это сработало. Модель сгенерировала девушку с обнаженной грудью.  Напомним, в июле экспертам удалось обойти цензуру ряда нейросетей касательно темы выборов в США. 

Feragatnameyi okuyun : Burada sunulan tüm içerikler web sitemiz, köprülü siteler, ilgili uygulamalar, forumlar, bloglar, sosyal medya hesapları ve diğer platformlar (“Site”), sadece üçüncü taraf kaynaklardan temin edilen genel bilgileriniz içindir. İçeriğimizle ilgili olarak, doğruluk ve güncellenmişlik dahil ancak bunlarla sınırlı olmamak üzere, hiçbir şekilde hiçbir garanti vermemekteyiz. Sağladığımız içeriğin hiçbir kısmı, herhangi bir amaç için özel bir güvene yönelik mali tavsiye, hukuki danışmanlık veya başka herhangi bir tavsiye formunu oluşturmaz. İçeriğimize herhangi bir kullanım veya güven, yalnızca kendi risk ve takdir yetkinizdedir. İçeriğinizi incelemeden önce kendi araştırmanızı yürütmeli, incelemeli, analiz etmeli ve doğrulamalısınız. Ticaret büyük kayıplara yol açabilecek yüksek riskli bir faaliyettir, bu nedenle herhangi bir karar vermeden önce mali danışmanınıza danışın. Sitemizde hiçbir içerik bir teklif veya teklif anlamına gelmez