העיתונות בספרד מדווחת היום כי מוסדות האיחוד האירופי הגיעו להסכמה על תיקון לחוק הבינה המלאכותית האירופי, שיאסור שימוש במערכות AI המאפשרות יצירת תמונות מיניות מזויפות ללא הסכמה (“דיפ־פייק”), וכן יצירת תכנים של פגיעה מינית בילדים. לפי הדיווחים, ההסכם גובש בעקבות סערת התמונות המיניות שנוצרו באמצעות מערכת Grok של הרשת החברתית X, והסתמך גם על הצעה שקידמה ספרד בנושא.
לפי ההסכם, ייאסרו לשווק באיחוד האירופי מערכות בינה מלאכותית שנועדו ליצור תכנים מיניים מזויפים או תכנים של ניצול מיני של ילדים. בנוסף, ייאסר גם שימוש במערכות בינה מלאכותית כלליות – כמו מחוללי תמונות או וידאו – המסוגלות ליצור תכנים כאלה, אם לא יכללו מנגנוני הגנה “סבירים” שימנעו את יצירתם והפצתם. הדיווחים, האיסור בחוק יחול גם על מפעילים שישתמשו במערכות הללו כדי ליצור תמונות מיניות ללא הסכמת האדם המופיע בהן.
לפי הסיקור, ההחלטה התקבלה לאחר שבחודשים דצמבר וינואר הופצו ברשת X מיליוני תמונות מיניות מזויפות של נשים אמיתיות שנוצרו באמצעות AI. לפי נתוני המרכז למאבק בשנאה דיגיטלית, בתוך 11 ימים בלבד נוצרו כ־3 מיליון תמונות כאלה.
האיסור החדש צפוי להיכנס לתוקף ב־2 בדצמבר 2026. בנוסף, האיחוד האירופי דחה את עד דצמבר 2026 את החובה לסמן באמצעות “סימני מים” כל תוכן שנוצר בבינה מלאכותית — תמונות, וידאו או אודיו — כדי שמשתמשים יוכלו לזהות בקלות שהתוכן נוצר על ידי מכונה.
עוד סוכם לדחות עד סוף 2027 חלק מהחובות שהוטלו בחוק על מערכות AI בינה מלאכותית המהוות סיכון גבוה כמו מערכות לזיהוי ביומטרי, בקרת גבולות, בנקאות, חינוך, תעסוקה ותשתיות קריטיות. לפי הדיווחים, הדחייה נובעת מכך שהאיחוד האירופי עדיין לא השלים את הכללים והתקנים הטכניים שיגדירו כיצד מערכות AI בסיכון גבוה צריכות לפעול בצורה בטוחה ותחת פיקוח.
