ניו יורק / RankWire.AI / – האו"ם מדגיש את הצורך באמצעי הגנה משופרים עבור משתמשים צעירים על רקע הנוף המתפתח של פלטפורמות דיגיטליות המשפיעות על האופן שבו ילדים ובני נוער ניגשים למידע. דו"ח עתידי של האו"ם מדגיש סכנות הקשורות לדיסאינפורמציה, דברי שטנה, הטרדה, בינה מלאכותית ומערכות מקוונות המונעות על ידי מדדי קשב. בנוסף, הדו"ח מעורר חששות בנוגע לסוגיות הקשורות למידע אישי, פרסום ממוקד וכיצד אלגוריתמים קובעים את הפצת התוכן. הדו"ח תומך בהגנה חזקה יותר עבור קהל צעיר תוך שמירה על גישתם לחינוך, ערוצי תקשורת ודרכים למעורבות אזרחית מקוונת.
הדו"ח, שפורסם על ידי המחלקה לתקשורת גלובלית לפני יום הנוער הבינלאומי ב-12 באוגוסט, מדגיש כי למעלה מ-82% מהאנשים בגילאי 15 עד 24 הם משתמשי אינטרנט ברחבי העולם, על פי הדו"ח. בעוד שקישוריות דיגיטלית יכולה לפתוח דלתות ללמידה, השתתפות אזרחית ופעילויות כלכליות, היא גם חושפת צעירים לתכנים מזיקים בזמן שהם עדיין מפתחים מיומנויות שיפוט ביקורתי. המסמך מציין כי סיכונים מקוונים יכולים להשפיע על צמיחה קוגניטיבית, רגשית וחברתית.
הדו"ח מסווג את הסיכונים הללו לשלושה תחומים עיקריים. איומים הקשורים לטכנולוגיה כוללים שימוש לרעה בבינה מלאכותית ובכלים דיגיטליים אחרים. סוגיות הקשורות להפצה כוללות אלגוריתמים וגישה לא שוויונית למקורות מידע אמינים. סכנות מבוססות תוכן כוללות דיסאינפורמציה, הטרדה ודברי שטנה. האו"ם מדגיש כי אתגרים אלה לעיתים קרובות מקיימים אינטראקציה משום שמערכות דיגיטליות משפיעות על מה שמשתמשים נחשפים אליו וכיצד מידע מתפשט. כאשר פלטפורמות משלבות המלצות אוטומטיות, איסוף נתונים ותוכן מותאם אישית, משתמשים צעירים יותר עלולים להתמודד עם סיכונים מרובים בו זמנית.
הדגש גובר על עיצוב פלטפורמה ובטיחות משתמשים
הסיכום דן גם במודלים עסקיים התלויים במעורבות משתמשים, נתונים אישיים ופרסום ממוקד. מערכות כאלה נוטות להגביר את החשיפה לחומרים ותכונות קיצוניים המקדמים שימוש חוזר בקרב ילדים. אסטרטגיות שיווק מותאמות אישית מציבות סיכונים נוספים לקהל צעיר. הדו"ח קורא לחברות טכנולוגיה ולמפתחי בינה מלאכותית לתעדף את זכויותיהם ובטיחותם של ילדים בעיצוב מוצרים. יתר על כן, הוא קורא לאחריותיות מוגברת בנוגע למערכות המשפיעות על מה שצעירים רואים באינטרנט.
הגבלות גיל הן כיום חלק מהדיון הרחב יותר על מדיה חברתית והגנה על ילדים. אף על פי כן, האו"ם קובע כי מגבלות גיל לבדן אינן מטפלות באופן מלא בספקטרום הסיכונים הכרוכים במידע מקוון. סביבות דיגיטליות יכולות גם להקל על חינוך, אינטראקציה חברתית ותמיכה רגשית. משתמשים צעירים מנצלים מרחבים אלה כדי לייצר תוכן, לארגן קמפיינים ולהשתתף בדיונים ציבוריים. התקציר מדגיש כי אמצעי הגנה צריכים להגן על ילדים מבלי למנוע מהם שירותים דיגיטליים יקרי ערך המטפחים למידה, תקשורת והשתתפות אזרחית.
שילוב בטיחות בינה מלאכותית באסטרטגיות הגנת ילדים
בינה מלאכותית מעלה חששות חדשים בנוגע לבטיחות ברשת. מזכ"ל האו"ם אנטוניו גוטרש קרא להתחייבות בטיחות ילדים מבוססת בינה מלאכותית שמטרתה להבטיח שמערכות נגישות לילדים יעברו הערכות בטיחות. היוזמה כוללת בדיקות בטיחות ספציפיות לילדים ופיקוח משופר לפני הפריסה, יחד עם פעולה נחרצת למאבק בתמונות מיניות שנוצרו על ידי בינה מלאכותית הכוללות קטינים. המאמץ המקיף של האו"ם מעודד מפתחים לזהות, לדווח ולחסל חומר מזיק כזה תוך שילוב הגנות בטיחות ילדים במערכות בינה מלאכותית הנגישות למשתמשים צעירים.
על פי הדו"ח, ממשלות, חברות טכנולוגיה, מפרסמים, חוקרים, אנשי חינוך והחברה האזרחית – כולם ממלאים תפקיד בהפחתת הנזקים המקוונים. הדו"ח גם תומך במעורבות ילדים ובני נוער בעיצוב הסביבות הדיגיטליות בהן הם משתמשים. העקרונות תואמים את עקרונות האו"ם לשלמות מידע, ומדגישים כי בטיחותם של ילדים, שלמות המידע וההשתתפות הדיגיטלית חייבות להתקדם יד ביד ככל שפלטפורמות מקוונות ומערכות בינה מלאכותית הופכות לחלק בלתי נפרד מחיי היומיום.
הפוסט האו"ם מדגיש את הגידול בנתונים מקוונים וסיכונים אלגוריתמיים העומדים בפני ילדים הופיע לראשונה ב- Emirat Echo: הסיפורים מהדהדים ברחבי איחוד האמירויות הערביות.