העניין עם זיהוי דיסאינפורמציה על ידי בינה מלאכותית הוא שתמיד זה נראה הרמטי במצגת שקפים. דיאגרמות נקיות. חצים. סמל מנעול. ואז אתה צופה באותה מערכת שמפספסת דיפ-פייק זול בחן של שחקן ליגת ילדים עם משקפי שמש בדמדומים. הנה הפרדוקס שלך: האמת דורשת הקשר ומקור; שקרים רק צריכים להפוך לוויראליים.
בואו נוציא את המובן מאליו מהדרך. אנחנו בעולם שבו כל אחד יכול לסנתז קול, ליצור פנים או לנפח את כובד הראש של טענה רעועה עם תרשים שנוצר וטון בטוח. והכלים לזיהוי דיסאינפורמציה של בינה מלאכותית? הם משתפרים - בהדרגה, בחוסר יציבות, עם סייגים גדולים מספיק כדי להעביר דרכם משאית של שיחות רובוטיות מזויפות. אם זה נשמע ציני, זה לא. זו המציאות העובדת של אמון באינטרנט המודרני.
מה שיבוא בהמשך הוא מדריך שטח פשוט, שנכתב עבור כל מי שצריך לשמור על ראש צלול בזמן שההייפ סוער: עיתונאים שמנסים לאמת סרטונים, צוותי מוצר שחושבים על מקור התוכן, מחנכים שמנחיתים חיבורים סינתטיים או אנשים רגילים שלא רוצים להיות הציוץ החוזר המיליון על תרמית.
מדוע זיהוי דיסאינפורמציה על ידי בינה מלאכותית אינו בעיה יחידה
- זה לא רק דיפ-פייקים. זה "shallowfakes" (עבודות עריכה סלקטיביות), טקסט סינתטי, מיזוג תמונות בינה מלאכותית וויזואליזציות נתונים שנראות רשמיות עד שאתה מבחין שציר ה-y מתחיל ב-90. מונח הגג "זיהוי דיסאינפורמציה על ידי בינה מלאכותית" מסתיר אוהל קרקס של בעיות.
- זה לא רק מסווגים. אנשים מדברים על דיוק כאילו זה מספר שאפשר להצמיד למציאות. זיהוי היא בעיה של מערכת אקולוגית: אותות, מקור, מדיניות פלטפורמה ו - תתכוננו - שיפוט אנושי.
- זה לא רק טכנולוגיה; זה תמריצים. פלטפורמות בנויות לתת יתרון למעורבות. מעורבות מתגמלת חידוש וזעם. אם אתה מעצב מערכות שמגבירות מהירות ורגש, אתה בסופו של דבר עם רשת הפצה המותאמת לשטויות בטוחות.
השרפרף בעל שלושת הרגליים: מקור, זיהוי וחיכוך
ישנן שלוש רגליים מעשיות מתחת לשולחן האמון:
אם אתה לא יכול לדעת מאיפה משהו הגיע - מכשיר, אפליקציה, עורך והיסטוריית עריכה - אתה כבר מנחש. זו המטרה של תקן C2PA: מטא נתונים עם חתימות קריפטוגרפיות המתארות לכידה ועריכות, הניתנות ליישום על פני מצלמות, עורכים וכלי פרסום. זה הרעיון המובן מאליו שכולם נמנעו ממנו עד שהמדיה הסינתטית הפכה אותו לבלתי נמנע. התקן קיים; הוא פתוח וצובר אימוץ, אם כי באופן לא אחיד. זה לא מוכיח שמשהו "אמיתי". זה מוכיח מי הכין אותו ומה השתנה, כך עורכים ובתי משפט חשבו על אמון במשך מאה שנה. זה השלב הראשון: לבנות שביל שאנשים יכולים לעקוב אחריו, בשפה פשוטה, מבלי להזדקק לתואר דוקטור בסטגנוגרפיה.
היוזמה לאימות תוכן - Adobe וחברים - דוחפת זאת במוצרים כ"אישורי תוכן". כשאתה רואה תג קטן ויכול ללחוץ כדי לראות את מכשיר הלכידה, העריכות ושרשרת הייצוא, זו ההבטחה: שקיפות במקום אווירה. אימוץ בעולם האמיתי הוא השאלה. גוגל הצטרפה לוועדת ההיגוי של C2PA - אות טוב שזה לא יהיה מסע צלב של חברה אחת. ככל שזה מופיע יותר במצלמות, בטלפונים ובזרימות עבודה של חדרי חדשות, כך ננחש פחות מפיקסלים ותחושות בטן.
גם עם מקור, הרבה מדיה תופיע כשהיא מופשטת מאישורים, ערוכה למוות או נולדה סינתטית לחלוטין. כאן נכנסים לתמונה המסווגים. כן, חוקרים ממשיכים לשפר גלאים להחלפת פנים, סנכרון שפתיים ושיבוט שמע. כן, הם מפרסמים מדדי ביצועים טובים יותר. וכן, זה מרוץ חימוש, מכיוון שמודלים גנרטיביים עושים אופטימיזציה כדי להתחמק מהסימנים הידועים, וגלאים עושים אופטימיזציה מחדש כדי לתפוס את החדשים. חתול ועכבר, אבל עם מעבדים גרפיים.
הספרות ברורה בשתי נקודות: דיוק הזיהוי משתנה מאוד לפי אופן הפעולה (וידאו, אודיו, טקסט) ולפי תחום (פני סלבריטאים לעומת הדוד שלך במנגל). ורוב הגלאים מתדרדרים בשטח בהשוואה למדדי ביצועים שנאספו. אם אתה מדמיין "ציון אמת" בודד, תשכח מזה. אתה רוצה אותות בשכבות וסיכון מכויל, לא ודאות כוזבת.
אנשי חוק ומדיניות שמו לב. דיפ-פייקים המכוונים לבחירות או לפאניקה ציבורית מעלים נזקים ברורים; ראו: שיחות רובוטיות המחקות את קולו של נשיא שאומר לך לא להצביע. זיהוי הוא לא רק אתגר טכני - זה אתגר ניהולי, ולכן מסגרות משפטיות זוחלות סביב גילוי, הסכמה ואחריות. לאט, לא מושלם, הכרחי.
אתה יכול לבנות את הגלאי הטוב בעולם ועדיין להפסיד אם הפלטפורמה שולחת אותו מאחורי שלוש הקשות ואמוג'י של משיכת כתפיים. דיסאינפורמציה מתפשטת מכיוון שמערכות ההפצה הן נטולות חיכוך ורגשיות. התרופה היא חיכוך עיצובי שמסלים עם סיכון - מודעה ביניים גלויה על תוכן חשוד, הורדת סדר עדיפויות בעדכונים, תגי מקור קלים לקריאה ונתיב בהקשה אחת להקשר. אמון הוא תשתית. אתה לא שם לב לזה כשזה עובד; אתה שם לב למכתשים.
כיצד להשתמש בפועל בזיהוי דיסאינפורמציה על ידי בינה מלאכותית (מבלי להפוך לזומבי)
- התחל עם מקור. אם אישורי תוכן קיימים, קרא אותם. אם לא, אל תניח כלום. שאל היכן הנכס צולם, באיזה מכשיר ובאילו עריכות. אנשי מקצוע לא ימצמצו בשאלה; רמאים כן.
- אותות שכבה. השתמש במספר גלאים - תמונה, אודיו וטקסט - במקום לבטוח באורקל אחד. חפש חוסר עקביות: חוסר התאמה בתאורה, השתקפויות שבורות, צורות פה שאינן תואמות פונמות, צליל חדר שנשמע כמו תא מרופד.
- בדוק דפוסי הפצה. האם הקליפ התפוצץ מחשבון מבער לאלף פרסומים מחדש בן לילה? זו לא הוכחה לזיוף, אבל זה דגל אדום ששווה לתחום בזמן.
- כבד חוסר ודאות. מערכות טובות נותנות לך טווח ביטחון, לא פסק דין. אל תעגל סבירות של 62% לאמת מוחלטת כי זה מתאים לידע המוקדם שלך.
דיפ-פייקים הם לא קסם; הם טריקים של ביטחון בקנה מידה
אם צפית באמני VFX קורעים "ניסים" של בינה מלאכותית, אתה מכיר את הז'אנר: מצמוצי עיניים מוזרים, שיער שמתנהג כמו צמח פלסטיק, הדגשות ספקולריות שקופצות כמו תקליטן שמגרד ויניל ופיזיקה שלא מאמינה בכוח הכבידה. ההונאות הולכות ונהיות חלקלקות יותר, אבל לפיזיקה ולפונטיקה עדיין יש סימנים. ההבדל עכשיו הוא נפח ומהירות - הונאות לא צריכות להטעות את כולם, רק מספיק אנשים לפני שהתיקון מגיע באיחור של יומיים וחצי ויראלי.
ווידאו הוא לא הבעיה היחידה. טקסט שנוצר על ידי בינה מלאכותית נשאר הדרך העצלנית ביותר לזהם שיח. זה כשיר תחבירית וחלקלק סמנטית - כמו פוליטיקאי שמעולם לא פגש הבטחה מעורפלת שהוא לא אהב. גלאי יכול לזהות מוזרות סטטיסטית, אבל המסנן הטוב ביותר לדיסאינפורמציה טקסטואלית הוא עדיין זה שבין האוזניים שלך. אם זה יותר מדי מסודר, יותר מדי בזמן, יותר מדי יודע כל, זה כנראה.
ההימור על מקור: מדוע C2PA חשוב גם אם אף אחד לא לוחץ על התג
ספקנים יגידו שאף אחד לא לוחץ על תגים. הם לא טועים, במצטבר. אבל עורכים, עיתונאים, פלטפורמות, בתי משפט ומשקיפים כן. הבדיקה שלהם מחלחלת כלפי מטה. שרשרת משמורת חתומה הופכת את ההסרות למהירות יותר, את המחלוקות לברורות יותר ואת האיומים המשפטיים לפחות מנופפים בידיים. העניין הוא לא שכולם הופכים לבלשי מטא נתונים; זה שהתשתית קיימת כך שאנשי מקצוע - ומערכות אוטומטיות - יוכלו לעשות את עבודתם. זה ההימור מאחורי C2PA והיוזמה לאימות תוכן: להפוך את האותנטיות לניתנת לאימות לפי עיצוב, לא תיאטרליות.
היכן הזיהוי עובד היום - והיכן הוא נכשל
עובד טוב באופן סביר:
- החלפות פנים בתנאים מבוקרים ובתחומים ידועים (מערכי נתונים של סלבריטאים, זוויות קנוניות) ניתן לסמן בדיוק הגון.
- שיבוטי אודיו עם קולות ספציפיים, כאשר יש לך מספיק אמת בסיסית להשוואה, מראים חפצים ספקטרליים שבולטים.
- מניפולציות תמונה שמשאירות עקבות פורנזיות: דגימה מחדש, דפוסי רעש לא עקביים, אזורים משובטים.
נכשל ברעש:
- תוכן מחוץ להפצה - זוויות חדשות, תאורה חלשה, דחיסה כבדה - מנגב את הרצפה עם גלאים נאיביים.
- שימוש חוזר מתואם בקטעי וידאו אמיתיים חלקיים (shallowfake עם עריכות הדוקות) עובר בדיקות רבות של בינה מלאכותית בלבד.
- טקסט סינתטי שמצטט עובדות אמיתיות מעורבות בדבק סיבתי מפוברק קשה להפליא לסמן ללא גרפי ידע חיצוניים.
הוסף נגישות: רוב האנשים לא יכולים להפעיל מעבדה. הם צריכים כלים עם ברירות מחדל שפויות, שפה ברורה וחוסר ודאות כנה. מה שמביא אותי לזווית מעשית אחת.
תבנית כלי עזר שקטה
אם אתה עושה עבודת אימות, הסטאק שלך צריך לכלול: מציג מקור לאישורי תוכן, כמה גלאי סחורות, חיפוש תמונה/ווידאו הפוך ומחברת להקלטת הצעדים שלך. נקודות בונוס עבור כלי עזר לדפדפן שמאפשר לך לטעון קליפ ולראות את המטא נתונים מבלי לחקור בכותרות קבצים.
Sider.AI למעשה נשען על דפוס זה עם הסברים ידידותיים ושלב אחר שלב לגילוי אם סרטון נוצר על ידי בינה מלאכותית - סוג החשיבה הפרגמטית והרשימתית שעוזרת למשתמשים אמיתיים, לא רק לתאטרון אבטחה. זה לא מעמיד פנים שמקור פותר הכל; זה מראה כיצד לחפש חפצים חושפניים, וזה מצביע על תקנים כמו C2PA ללא אבק הפיות השיווקי הרגיל. אפילו הקליפים האוצרים של Sider ויצירות קהילת היוצרים מצביעים על הבעיה הגדולה יותר: הטכנולוגיה מרשימה, ובדיוק בגלל זה היא מסוכנת כאשר משתמשים בה למניפולציה. כן, זה הערת אגב. אבל זה סוג כלי העזר השקט שרוב האנשים באמת צריכים: קצת חיכוך, קצת השכלה וזרימת עבודה שלא גורמת לך להרגיש שאתה מגיש מיסים. אתה לא צריך כדור כסף; אתה צריך אולר אמין.
מדיניות, עם חגורות בטיחות
יש תיאבון גובר לכללי דרך: תווית תוכן סינתטי, להעניש התחזות זדונית ולקבוע ציפיות לפלטפורמות במהלך בחירות. חוקרים משפטיים ממפים מסגרות שמנסות להגן על הדיבור מבלי לתת כיסוי להונאה. אנחנו לא נתדיין את דרכנו החוצה לגמרי - שום חוק לא יכול לעמוד בקצב של פרסומי מודלים - אבל לנורמות יש חשיבות. אם יוצרים, פלטפורמות וכלים מאמצים מקור כברירת מחדל, זה מצמצם את שטח הפנים שבו שקרנים משגשגים.
בדיקת מציאות תאגידית: אותן חברות שממהרות לשלוח תכונות גנרטיביות יושבות גם בוועדות שכותבות תקני מקור. זה בריא, לא צבוע, בהנחה שהתוצאה ניתנת לפעולה הדדית ומופעלת כברירת מחדל. המושב של גוגל ב-C2PA מצביע על כך שמרכז הכובד עובר לתמיכה ברמת הפלטפורמה. המבחן הבא הוא האם מצלמות טלפון, אפליקציות עריכה ועדכונים חברתיים חושפים אישורי תוכן כאזרח ממדרגה ראשונה והופכים את הסרתם ליקרה.
האדם בלולאה שאנחנו ממשיכים להעמיד פנים שאנחנו לא צריכים
אתה יכול למכור לוחות מחוונים עד שהפרות ישלחו לך דואר קולי משובט, אבל ביקורת מומחים עדיין חשובה. חדרי חדשות לומדים זאת בדרך הקשה בכל פעם שהם מדלגים על היסודות. זרימת העבודה שעובדת היא כזו שמניחה שבני אדם מקבלים את ההחלטה הסופית כאשר המוקד גבוה: עיתונאים, צוותי אמון ובטיחות, פקידי בחירות. מכונות ממיינות; אנשים מחליטים.
לולאה סוגרת: "זיהוי דיסאינפורמציה על ידי בינה מלאכותית" הוא פחות מוצר מאשר תרגול. זהו אוסף של הרגלים, כלים וציפיות שמסיטים את הנטל בחזרה על שקרנים פוטנציאליים. נתקדם לא כשגלאים יגיעו ל-99.9%, אלא כאשר מקור יהיה נורמלי, חיכוך יגרום לשקרים להיות איטיים יותר וברירות מחדל טובות יצילו משתמשים ממוצעים מהדחפים הגרועים ביותר שלהם.
ספר משחקים מעשי לצוותים (לא תיאוריה - עשו זאת):
- הפעל את אישורי התוכן בצינור הלכידה והעריכה שלך. אם הכלים שלך לא תומכים בזה, תבקש חזק יותר. או שתחליף.
- שלב בודק מקור ולפחות שני גלאים ב-CMS שלך. הצג תוצאות בשפה שאיש שאינו מומחה יכול לנתח.
- בנה מודעה ביניים אדומה/ענברית/ירוקה להפצה. אדום לסינתטי סביר; ענבר ללא ידוע/ללא מקור; ירוק לאישורים חתומים ולא שבורים. אין חותמות אמת בינאריות.
- תן למשתמשים את הקבלה. הפוך את המטא נתונים לניתנים לחקירה בהקשה אחת. אנשים לומדים על ידי ראייה.
- רשום את שלבי האימות באופן פנימי. כשמשהו משתבש, שובל הנייר הופך "אולי" לתיקון במקום לפיאסקו.
האמת הלא נוחה
יש אנשים שרוצים אפליקציית צבא שוויצרי שאומרת להם מה אמיתי. זה לא מגיע, ולא היית בוטח בזה אם זה היה מגיע. האמת הלא נוחה היא שאמון נבנה, לא מוסק. זיהוי הכרחי, מקור הוא בסיסי וחיכוך פלטפורמה הוא המנוף. השאר הוא תרבות - האם אנחנו מתגמלים את הטייק הראשון או את הטייק הנכון.
טוויסט אחרון: הסיכון הגדול ביותר הוא לא שאנחנו לא יכולים לזהות שקרים. זה שאנחנו מפסיקים להאמין לאמת כשהיא מופיעה. זו המטרה של דיסאינפורמציה מתוחכמת - לא לשכנע אותך בשקר ספציפי, אלא לטשטש הכל לתוך ערפל ציני שבו שום דבר אינו אמין. לכן זו לא רק בעיה טכנית. זה היגיינה אזרחית.
אם זה נשמע גרנדיוזי, שקול את החלופה: עדכון שבו הכל נראה אמיתי, שום דבר לא, והמדד היחיד שחשוב הוא הקליק. אנחנו עדיין לא שם. אבל אנחנו יכולים לראות את זה מכאן.
קריאה נוספת ותקנים
- C2PA: תקן טכני למקור תוכן ואותנטיות, עם אימוץ חוצה תעשייה גובר.
- יוזמה לאימות תוכן: משאבים ותמיכה במוצרים עבור אישורי תוכן.
- סקירה ונקודות מבט משפטיות על זיהוי וממשל של דיפ-פייק.
- מדוע תשתית אמון (לא הייפ) היא שדה הקרב האמיתי.
ואם אתה רוצה את ההדרכה המהירה והפרגמטית לגילוי סרטוני וידאו שנוצרו על ידי בינה מלאכותית, המדריך חסר השטויות של Sider הוא מקום טוב להתחיל בו - פחות דרשה, יותר קבלות.
שאלות נפוצות
ש1:מה זה באמת זיהוי דיסאינפורמציה על ידי בינה מלאכותית?
זה לא גלאי שקר קסום; זה ערכת כלים וזרימת עבודה להערכת מקור, הפעלת מסווגים בשכבות והזרקת חיכוך להפצה. תחשוב פחות טייקים חמים, יותר קבלות - מקור, עריכות, שרשרת משמורת, ואז אותות מודל.
ש2:האם גלאים יכולים לזהות באופן מהימן דיפ-פייקים היום?
לפעמים, במעבדה; פחות בעקביות בשטח. הדיוק תלוי באופן הפעולה, בדחיסה ובדומיין, ולכן אתה משלב זיהוי עם מקור ועיצוב פלטפורמה, לא פסק דין בינארי.
ש3:מדוע כדאי לי לדאוג לגבי C2PA ואישורי תוכן?
מכיוון שניחוש מפיקסלים הוא משחק מפסיד, ומקור חתום מעלה את עלות השקר. אישורי תוכן הופכים את האותנטיות לניתנת לביקורת לפי עיצוב, מה שעוזר גם לבני אדם וגם למערכות אוטומטיות.
ש4:כיצד פלטפורמות מצמצמות דיסאינפורמציה על ידי בינה מלאכותית מבלי להרוג את הדיבור?
השתמש בחיכוך מותאם לסיכון: תוויות ברורות, מודעות ביניים והורדת דירוג עבור מדיה חשודה תוך העלאת מקור שניתן לאמת. זו לא צנזורה; זה מסרב להגביר מבחינה אלגוריתמית תוכן מפוקפק.
ש5:מהו הצעד המעשי הטוב ביותר עבור צוותים?
הפעל את המקור בצינור הלכידה/עריכה שלך וחשוף אותו בממשק המשתמש של המוצר שלך. לאחר מכן הוסף שני גלאים ותצוגת ביטחון פשוטה אדומה/ענברית/ירוקה כדי שאנשים שאינם מומחים יוכלו לקבל החלטות שפויות.
