У Gmail виявлено серйозну вразливість у функції Gemini, яка може бути використана зловмисниками для здійснення фішингових атак за допомогою спеціально згенерованих резюме електронних листів. Про це повідомляє портал BleepingComputer посилаючись на джерело 0DIN.

Цю вразливість виявив Марко Фігероа, який керує програмою GenAI Bug Bounty у Mozilla. Він зазначив, що зловмисники можуть маскувати інструкції в електронному листі, використовуючи білий шрифт і зменшуючи його до нуля, таким чином роблячи текст невидимим для користувачів, але доступним для системи Gemini. Це може призвести до того, що штучний інтелект автоматично включатиме неправдиві попередження, такі як фейковий злам пароля, разом із неіснуючими номерами підтримки.

Хоча деякі користувачі ігнорують такі повідомлення, інші можуть стати жертвами емоційного впливу подібного контенту. Фігероа підкреслює, що команди безпеки повинні розробити нові методи для виявлення прихованої інформації та аналізувати резюме, створені штучним інтелектом, на предмет наявності URL, номерів телефонів чи термінових закликів.

Представники BleepingComputer звернулися до Google з приводу цієї вразливості в Gemini. Відповідаючи, представник компанії заявив, що поки не отримували доказів зловживань, але додав, що Google працює над захищеністю та незабаром впровадить додаткові заходи безпеки.