בתערוכות במוזיאון, קצת כמו בכנסים, לרוב זוכרים דבר אחד, או שניים. את הכלה של מארק שאגאל, את גרניקה של פיקאסו, וכן הלאה. בכנס הבינלאומי הראשון לזכויות דיגיטליות, שנערך השבוע בברצלונה, נחרט בי כתמונה משפט אחד שאמרה גרטרוי מיקה דה קטלאר, מהנדסת ומומחית לבינה מלאכותית. היא תיארה את הוואקום הרגשי והבדידות שיצרה מגפת הקורונה, ואת האופן שבו צ׳אטבוטים נכנסו אל החלל הזה: מדמים חברות, ממלאים צורך רגשי, ולעיתים מטשטשים את הגבול בין כלי טכנולוגי לבין קשר אנושי. את הסכנות האלה היא בוחנת בספרה החדש, The Chatbot Trap: How Digital Friends Can Become Life-Threatening, שעוסק באופן שבו “חברים דיגיטליים”, עלולים להפוך למלכודת עבור משתמשים.
לצד התמונה הזו נותרה תמונה נוספת, שחזרה על עצמה שוב ושוב: אירופה צריכה למצוא את מקומה, ולפעול לרגולציה שתגן על אזרחים וצרכנים, מול שתי מערכות כוח גדולות – סין מצד אחד וארצות הברית מצד אחר. הכנס כולו, כך נדמה, לצד פעולות נוספות, מבקש למקם את ספרד, במקום מוביל בהגנה על אזרחים מול הקצב הטכנולוגי, שנדמה שרץ לפני כולם. מהלך זה מתחבר גם ליוזמות רגולטוריות בספרד, ובהן הגבלת הגישה לרשתות חברתיות מגיל 16, ולעימותים הגלויים בין ממשלת ספרד, לבין דמויות כמו אילון מאסק.
הכנס התקיים ברביעי וחמישי, וכלל הרצאות ופאנלים רחבים לצד שיחות קטנות ואינטימיות, סדנאות עבודה ועוד. מרבית האירועים המרכזיים ביום הראשון התקיימו באנגלית, עם דוברים ודוברות מכל העולם, וביום השני, מרבית האירועים המרכזיים התקיימו בספרדית ובקטלאנית. האירוע נפתח עם יעל אייזנסטאט, לשעבר אנליסטית ב־CIA, יועצת לענייני ביטחון לאומי ולוחמה בטרור של ג׳ו ביידן, ובכירה לשעבר בפייסבוק, בתחום פרסום פוליטי וטוהר בחירות. לפי תכנית הכנס, הרצאתה עסקה ברשתות חברתיות, אלגוריתמים ודמוקרטיה, תחת הכותרת “Social Media, Algorithms, and Democracy: Where does accountability lie?”.
אחת השיחות שמשכה אליה אקטיביסטים רבים בתחום, הייתה עם הסופר והפעיל הדיגיטלי קורי דוקטורוב. דוקטורוב, שעל קיומו לא ידעתי, אך התוודעתי לכך שהוא מוכר לרבים, הוא אקטיביסט בתחום הזכויות הדיגיטליות, עיתונאי וסופר מדע בדיוני, שפועל בין היתר במסגרת Electronic Frontier Foundation. הוא מזוהה עם המונח enshittification, שאותו הזכיר פעמים רבות בשיחה: תהליך ההידרדרות של פלטפורמות דיגיטליות. בתחילה הן מציעות שירות טוב למשתמשים, אחר כך משנות את הכללים לטובת מפרסמים ושותפים עסקיים, ולבסוף שוחקות את כולם כדי למקסם רווחים לבעלי המניות.
בשיחה הוא תיאר את האינטרנט בכלל, ואת פייסבוק בפרט, כמרחב שעבר שינוי עמוק: ממקום שנתפס בעבר כפתוח, יצירתי וחופשי, למרחב הנשלט בידי פלטפורמות ענק שמבוססות על מעקב, פרסום ושליטה בתשומת הלב של המשתמשים. דוקטורוב הזכיר את ההבטחות הראשונות של הפלטפורמות, שלפיהן המשתמשים יקבלו מרחב חברתי נוח ומוגן, אך תיאר כיצד בהדרגה הפכו אותם מרחבים למערכות שמוכרות את תשומת הלב ואת המידע של המשתמשים. “אנחנו יודעים שאתם אוהבים את המרחב שלי, אבל האם אתם יודעים שהמרחב שלי עוקב אחריכם?”, אמר, כשהציג את הפער בין תחושת החופש שהרשתות יצרו בתחילת הדרך לבין מערכת המעקב שנבנתה סביבן.
לדבריו, הבעיה אינה רק בכך שחברות כמו מטא או גוגל, אוספות מידע על המשתמשים, אלא בכך שלמרבית המשתמשים אין יכולת ממשית שלא להשתמש בהן. החיים החברתיים, העבודה והמידע, מרוכזים בפלטפורמות שקשה מאוד לעזוב, בלי לפגוע בחיים המקצועיים והחברתיים.
כמי שעוסק בשינוי מדיניות ציבורית, סקר דוקטורוב את אופני השינוי שעומדים לרשות הציבור. לטענתו, הפעולה האישית, זו שקוראת פשוט להחרמה או ל”הצבעה עם הארנק”, אינה אפקטיבית מספיק מול הכוח הרב שמרכזות הפלטפורמות והמשאבים הכלכליים העומדים לרשותן. “לבחור עם הארנק זה חסר משמעות”, אמר, כאשר החברות מחזיקות בתשתיות החיים הדיגיטליים. לכן, טען, הפתרון חייב להיות מדיניות ציבורית ורגולטורית שתשרת את המשתמשים ולא את בעלי המניות. הוא קרא לבנות אינטרנט פתוח, מבוזר ושקוף יותר – כזה שבו המשתמשים יכולים להבין כיצד המערכות פועלות, להשפיע עליהן, ולפתח חלופות שאינן תלויות לחלוטין בענקיות הטכנולוגיה האמריקאיות.
לאחר השיחה עם דוקטורוב, עלתה להרצאה ושיחה אנו ברדפורד, משפטנית וחוקרת, פרופסורית למשפטים ולארגונים בינלאומיים בבית הספר למשפטים של אוניברסיטת קולומביה. ברדפורד חוקרת את כוחו הרגולטורי של האיחוד האירופי, משפט סחר בינלאומי, רגולציה של טכנולוגיה, דיני תחרות ובינה מלאכותית. הרצאתה התקיימה תחת הכותרת “Beyond the False Dichotomy: Regulation, Innovation, and Power in the Age of Digital Empires”. בספרה ״Digital Empires״, היא מנתחת את המאבק בין שלוש מעצמות דיגיטליות – ארצות הברית, סין והאיחוד האירופי – על עיצוב כללי המשחק של הטכנולוגיה.
בדבריה הציגה ברדפורד את המאבק הגיאופוליטי סביב הטכנולוגיה. היא תיארה שלושה מודלים מרכזיים: המודל האמריקאי, הנשען על שוק חופשי, חדשנות וכוחן של חברות הטכנולוגיה; המודל הסיני, שבו הטכנולוגיה קשורה גם למעקב ולשליטה מדינתית; והמודל האירופי, המבקש להציב במרכז זכויות אדם, פרטיות ודמוקרטיה.
ברדפורד טענה, כי אירופה אינה צריכה לבחור בין המודל האמריקאי, לבין המודל הסיני. לדבריה, המודל הסיני דכאני מדי, ואילו המודל האמריקאי מתירני מדי, כלפי חברות הטכנולוגיה. האתגר האירופי הוא לבנות דרך שלישית: לא לוותר על חדשנות, אך גם לא לאפשר לטכנולוגיה לעצב לבדה את החברה.
עם זאת, היא הזהירה כי אירופה, אינה יכולה להסתפק ברגולציה. לדבריה, קל להאשים את ה־GDPR – רגולציית הגנת המידע של האיחוד האירופי – ואת עודף הרגולציה, בכך שאירופה מפגרת אחרי ארצות הברית וסין, אך זו אינה כל התמונה. ברדפורד הצביעה גם על בעיות עמוקות יותר: קושי בגיוס הון לצמיחת חברות טכנולוגיה, שוק אירופי מפוצל בין מדינות ושפות, תרבות יזמית שמענישה כישלון, לעומת התרבות היזמית הצפון־אמריקאית, וקושי למשוך כישרונות גלובליים. לדבריה, לאירופה אסור להחמיץ את מהפכת הבינה המלאכותית, משום שעל פער כזה יהיה קשה לגשר.
בהמשך היום נערך פאנל תחת הכותרת “Balancing Digital Rights and Sustainability in the Age of Technology”, שבו השתתפו מרתה אסטריאס, גרטרוי מיקה דה קטלאר, פול ס. אדלר ומאיה אורמסבל, בהנחיית לוקאס האנטר. הפאנל עסק בשאלה – האם קיימת סתירה בין קדמה טכנולוגית לבין קיימות וזכויות דיגיטליות.
מרתה אסטריאס, פיזיקאית ומנהלת בכירה בחברת קילימנג׳רו קוונטום טק בברצלונה, הציגה את נקודת המבט של חברות טכנולוגיה קטנות שמנסות לפתח מערכות יעילות יותר מבחינת שימוש במשאבים. לדבריה, הפתרונות אינם יכולים להיות טכנולוגיים בלבד. גם אם אפשר לבנות מכונות שמבצעות יותר פעולות בפחות אנרגיה, עצם היעילות אינה פותרת את הבעיה, משום שהיא עלולה להגדיל עוד יותר את השימוש. “אם נייצר מכונה שעושה יותר עם פחות, אז אפשר לעשות יותר ויותר ויותר”, אמרה. לכן, לצד החדשנות, נדרשת מעל הכול, רגולציה ושאלה רחבה יותר על גבולות השימוש.
מאיה אורמסבל, בכירה בטלפוניקה ואחראית בין היתר על תחום הקיימות בחברה, הדגישה כי השינוי הדיגיטלי כבר מתרחש, וכי יש בו פוטנציאל לשפר תחומים כמו חינוך, כלכלה ואיכות חיים. “אנחנו לא צריכים לבחור”, אמרה ביחס לשאלה האם יש סתירה בין טכנולוגיה לבין קיימות. עם זאת, לדבריה, אי אפשר להתעלם מטביעת הרגל הסביבתית של הטכנולוגיה, במיוחד בעידן שבו שימוש בבינה מלאכותית, מגדיל באופן משמעותי את צריכת האנרגיה והמשאבים. האתגר, כפי שעלה מדבריה, הוא ליהנות מן ההזדמנויות שהטכנולוגיה מציעה, אך לעשות זאת מתוך מודעות להשפעה ארוכת הטווח שלה.
גרטרוי מיקה דה קטלאר, מהנדסת ומומחית לבינה מלאכותית, התמקדה בסכנות החברתיות והרגשיות של מערכות בינה מלאכותית שמדמות קשר אישי. ספרה החדש, שאותו הזכרנו בפתיח, עוסק בצ׳אטבוטים המוצגים כ״חברים דיגיטליים״, או כבני שיחה בעלי נוכחות רגשית. דה קטלאר בוחנת כיצד מערכות כאלה עלולות ליצור תלות, תחושת אינטימיות מדומה ומניפולציה רגשית, במיוחד כאשר המשתמשים אינם מבינים עד הסוף כיצד המערכת פועלת, מי עומד מאחוריה ומה האינטרסים הכלכליים שמעצבים אותה.
בדבריה בכנס, הדגישה דה קטלאר, כי בינה מלאכותית אינה רק כלי טכני, אלא מערכת שמשפיעה על יחסים אנושיים, על קבלת החלטות ועל חיי היומיום. היא הזהירה במיוחד מפני “הערבוב האכזרי בין בדידות, ליכולות הלכאורה אנושיות, של צ׳אט” – אותו רגע שבו מערכת טכנולוגית מצליחה לדמות קשר, הקשבה ואינטימיות, בזמן שהמשתמש לא תמיד מבין, מי עומד מאחוריה ומה האינטרסים שמעצבים אותה. לדבריה, פיתוח של מערכות כאלה, לא יכול להישאר רק בידי מהנדסים או חברות טכנולוגיה. הוא דורש שיחה רב־תחומית, שתכלול משפטנים, אנשי חינוך, אנשי בריאות, חוקרי חברה ונציגי ציבור, כדי להבין לא רק מה הטכנולוגיה יכולה לעשות – אלא מה היא עושה לבני אדם.
פול ס. אדלר, פרופסור לניהול וארגון, סוציולוגיה ולימודי סביבה באוניברסיטת דרום קליפורניה, חוקר בין היתר ארגונים, טכנולוגיה, קיימות והממשק בין עסקים, ממשל וחברה. בפאנל הוא התייחס לצורך ברגולציה דמוקרטית ובמעורבות ציבורית עמוקה יותר. הוא הזהיר כי בארצות הברית, במיוחד בשנים האחרונות, ניכרת נסיגה בזכויות דיגיטליות וברגולציה של התחום. “צריך להעמיק את המעורבות הדמוקרטית”, אמר, והדגיש כי אירופה אמנם ממלאת תפקיד חשוב בניסיון להציב גבולות לטכנולוגיה, אך הרגולציה לבדה אינה מספיקה, אם הציבור אינו מעורב ואם הכוחות הדמוקרטיים אינם מצליחים להשפיע על אופן עיצוב המערכות.
אל הדיון הזה התחברה גם הרצאת הפתיחה של יעל אייזנסטאט, מתחילת הכתבה. אייזנסטאט התראיינה ל־El Periódico על השתתפותה בכנס. בריאיון היא הזהירה כי הברית בין דונלד טראמפ לעמק הסיליקון מסוכנת לטוהר הבחירות בארצות הברית. לדבריה, הפלטפורמות הגדולות, חזקות היום יותר מאשר ב־2018: הן מחזיקות בכלי בינה מלאכותית מתקדמים יותר, ובמקביל נסוגות ממדיניות בסיסית של בטיחות, בדיקת עובדות ומיתון תכנים.
אייזנסטאט טענה כי הרשתות החברתיות אינן רק מאפשרות שיח קיצוני, שנאה וסנסציוניות, אלא מתמרצות אותו, משום שזהו התוכן שמגדיל קהל ומעורבות. לדבריה, הבעיה אינה רק בתוכן שמופיע בפלטפורמות, אלא במבנה העסקי והטכנולוגי שלהן: אלגוריתמים שמתגמלים זעם, פחד וקיטוב, ומערכת שמרוויחה ככל שהמשתמשים נשארים מחוברים, נסערים ומעורבים.
בזמן שבברצלונה התקיים דיון רחב על זכויות דיגיטליות, רגולציה, בינה מלאכותית והצורך להעמיד את הטכנולוגיה לשירות האדם, נשיא קטלוניה סלבדור אייה, קידם בפועל את הדברים בעמק הסיליקון. לפי הסיקור בעיתון La Vanguardia, אייה נפגש בקליפורניה עם נציגי חברות טכנולוגיה מובילות, בהן גוגל, אפל, Expedia, HP ו־NVIDIA, במטרה לחזק את הברית בין קטלוניה לקליפורניה בתחומי החדשנות, הבריאות והמחקר. הוא קרא לכך שקטלוניה תהפוך בעשור הקרוב, למוקד משיכה של כישרונות וחדשנות, ותוביל את התחום “בלי לבקש רשות מאף אחד”.
מעבר לאמירה הסמלית, הביקור כלל גם צעדים קונקרטיים: אייה השתתף בחתימת שני הסכמי שיתוף פעולה של מרכז מחשוב־העל של ברצלונה עם חברות מובילות בעמק הסיליקון – Supermicro, המתמחה בפתרונות מחשוב עתירי ביצועים, ו־NVIDIA, מהמובילות בעולם בתחום שבבי הגרפיקה והבינה המלאכותית. לפי הדיווח, שיתוף הפעולה עם NVIDIA יתמקד גם בפיתוח פתרונות טכנולוגיים אירופיים ריבוניים. נוסף על כך, הוא ביקר ב־Stanford Mussallem Center for Biodesign, במסגרת הקשר בין המרכז, לבין בית החולים סנט ז׳ואן דה דאו ותוכנית Impact4kids, שמקדמת פתרונות טכנולוגיים לבריאות ילדים ואימהות. בכך ייתכן כי ביקש אייה להציג את החדשנות הקטלאנית לא רק כמנוע כלכלי, אלא גם ככלי חברתי: טכנולוגיה ובינה מלאכותית שישרתו את הטוב המשותף, ובעיקר תחומים כמו בריאות, חינוך ומחקר.
