גלול ברשתות החברתיות חמש דקות ותיתקל בתוכן שנוצר על ידי AI. לפעמים זה ברור. לפעמים זה משכנע בצורה מפחידה. ויותר ויותר, הוא משמש כדי לתמרן, להטעות ולהציף את האינטרנט במה שאני קורא "AI slop": תוכן באיכות נמוכה שנוצר על ידי AI, שמתוכנן לתמרן אלגוריתמים, להפיץ מידע שגוי או פשוט לבזבז לך את הזמן.
כמי שבילה שנים בהנהגה טכנולוגית ועכשיו עובד עם חלק מהשחקנים המוכשרים ביותר בתחום יחסי הציבור והתקשורת ב-Lookatmedia, הפכתי לאובססיבי לגבי הבעיה הזו. תנו לי לשתף מה למדתי על זיהוי AI slop והכלים שבאמת עובדים.
שלושת סוגי ה-AI slop שתיתקלו בהם
לפני שנצלול לזיהוי, בואו נסווג עם מה אנחנו מתמודדים:
1. טקסט שנוצר על ידי AI
זו הצורה הנפוצה ביותר. פוסטים בבלוגים, תוכן ברשתות חברתיות, מאמרי חדשות, תיאורי מוצרים. הכל יכול להיווצר על ידי מודלי שפה גדולים כמו ChatGPT, Claude או מודלים בקוד פתוח. לפעמים זה תמים (מישהו שמאוטמט את לוח התוכן שלו). לפעמים זה זדוני (חדשות מזויפות, ספאם או מניפולציה).
2. תמונות שנוצרו על ידי AI
מ-Midjourney דרך DALL-E ועד Stable Diffusion, מחוללי תמונות AI הפכו טובים בצורה מזעזעת. תמונות מזויפות של סלבריטאים, תמונות "חדשות" מפוברקות ותמונות פרופיל סינתטיות נמצאות בכל מקום.
3. וידאו ואודיו שנוצרו על ידי AI
הגבול החדש ביותר. דיפ-פייקים, קולות סינתטיים ותוכן וידאו שמפוברק לחלוטין. כאן הסיכונים הכי גבוהים והזיהוי הכי קשה.
איך לזהות טקסט שנוצר על ידי AI
טקסט AI הפך טוב להפליא, אבל עדיין יש סימנים מסגירים:
בעיית ה"שלמות"
טקסט AI הוא לרוב יותר מדי מלוטש. בני אדם אמיתיים עושים טעויות קטנות, משתמשים בסלנג בצורה לא עקבית ויש להם מוזרויות אותנטיות בסגנון. AI נוטה למרכז מחוטא ותאגידי.
דגלים אדומים שצריך לשים לב אליהם:
- שימוש מוגזם בביטויים כמו "חשוב לציין," "בעולם המהיר של היום," או "בואו נצלול פנימה"
- מבנה מקבילי מושלם בכל רשימה
- חוסר דעות כנות או עמדות שנויות במחלוקת
- מעברים חלקים שמרגישים מכניים במקום שיחתיים
- אורך ומקצב משפטים עקביים (בני אדם משתנים יותר)
בדיקת ההזיות
AI ממציא דברים בביטחון מוחלט. בדקו כל טענה ספציפית: סטטיסטיקות, ציטוטים, מחקרים שהוזכרו. אם מאמר מצטט "מחקר של הרווארד מ-2024" אבל אתם לא מוצאים אותו, זה דגל אדום.
"הטקסט הכי מסוכן שנוצר על ידי AI הוא לא הדברים שברור שהם מזויפים. זה התוכן שמדויק ב-95% עם פרטים שגויים שנאמרים בביטחון מוחלט מעורבבים בפנים."
תווים מיוחדים מוזרים
סימן חד-משמעי לטקסט שנוצר על ידי AI הוא נוכחות של תווים מיוחדים חריגים. מודלי AI לפעמים מכניסים תווים שנראים דומים לאותיות סטנדרטיות אבל בעצם הם תווי Unicode שונים, כמו שימוש ב-"а" קירילי במקום "a" לטיני, או הכנסת תווי עיצוב בלתי נראים.
סימן המקף הארוך: AI אוהב מקפים ארוכים (—). אם אתם רואים טקסט מלא במקפים ארוכים במקום מקפים רגילים או פסיקים, זה דגל אדום. רוב בני האדם לא פונים באופן טבעי לתו המקף הארוך בזמן הקלדה. מודלי AI, שאומנו על תוכן עריכתי מלוטש, משתמשים בהם כל הזמן.
שימו לב לטקסט שנראה רגיל אבל מתנהג בצורה מוזרה כשמנסים לחפש מילים ספציפיות, או כשהעתקה-הדבקה מייצרת תוצאות לא צפויות. פלטי AI גם כוללים לעיתים קרובות סגנונות מרכאות לא עקביים (מרכאות "מסולסלות" מול "ישרות") שמתחלפים לאורך המסמך.
כלים מומלצים לזיהוי טקסט
🔍
GPTZero
הטוב ביותר לטקסטים ארוכים
המדויק ביותר למאמרים וחיבורים. מתקשה עם טקסט AI שעבר עריכה כבדה אבל מצוין לזיהוי פלט גולמי.
🤖
Originality.AI
הטוב ביותר למפרסמים
מתוכנן למפרסמי תוכן. טוב בזיהוי תוכן AI מנוסח מחדש וכולל בדיקת גניבה ספרותית.
📊
Winston AI
הדיוק הטוב ביותר
טוען לשיעורי הדיוק הגבוהים ביותר. טוב לאימות תוכן אקדמי ומקצועי.
איך לזהות תמונות שנוצרו על ידי AI
למרות שיפורים עצומים, לתמונות AI עדיין יש בעיות עקביות:
בעיית הידיים
בדקו את הידיים. AI עדיין מתקשה עם אצבעות. לעיתים קרובות תראו שש אצבעות, אצבעות מאוחות או תנוחות שבלתי אפשריות מבחינה אנטומית. ידיים בכיסים או מאחורי הגב הם הדרך של AI להסתיר את החולשה שלו.
חוסר עקביות ברקע
AI מתמקד בנושא הראשי. הסתכלו ברקע וחפשו:
- טקסט שהוא ג'יבריש או שנוצר באופן חלקי
- אובייקטים שנעלמים לתוך כלום או מתמזגים באופן לא טבעי
- אלמנטים ארכיטקטוניים שלא הגיוניים מבחינה גיאומטרית
- אנשים ברקע עם תווי פנים מעוותים
הסימטריה המטרידה
AI אוהב סימטריה. תמונות אמיתיות יש בהן א-סימטריה טבעית בפנים, בגדים וסביבות. אם משהו נראה מושלם מדי, כנראה שהוא כזה.
סימנים בטקסטורה
עשו זום על טקסטורות. שיער, בד ועור לרוב יש להם איכות שעווה, חלקה מדי. שיניים ועיניים עלולות להיראות מעט מוזרות, אחידות מדי או בהירות באופן לא טבעי.
כלים מומלצים לזיהוי תמונות
📷
Hive Moderation
הרב-תכליתי ביותר
מזהה תוכן מ-DALL-E, Midjourney, Stable Diffusion ועוד. API זמין לאינטגרציה.
👁
Illuminarty
האפשרות החינמית הטובה ביותר
רמה חינמית זמינה. דיוק טוב ברוב מחוללי תמונות AI הגדולים.
🔎
Google Reverse Image Search
אימות
לא זיהוי AI כשלעצמו, אבל מצוין לאימות אם תמונה "מקורית" קיימת במקום אחר או שנעשה בה שינוי.
איך לזהות וידאו ואודיו שנוצרו על ידי AI
כאן הדברים נהיים מפחידים. דיפ-פייקים השתפרו בצורה דרמטית, אבל הם לא מושלמים:
בעיות סנכרון שפתיים
צפו בפה בקפידה. לדיפ-פייקים יש לעיתים קרובות בעיות תזמון עדינות שבהן האודיו ותנועת השפתיים לא ממש תואמים, במיוחד בצלילים מורכבים כמו "M," "B" ו-"P."
בעיות עיניים
דפוסי מצמוץ בדיפ-פייקים הם לרוב לא טבעיים, או מדי סדירים או לא מספיק. העיניים גם עלולות לקבל ברק לא טבעי או לא לעקוב כראוי.
ארטיפקטים בקצוות
הסתכלו על קצוות הפנים, במיוחד סביב קו השיער והלסת. לעיתים קרובות תראו הבהוב עדין, טשטוש או חוסר עקביות בצבע במקום שבו הפנים המזויפות פוגשות את הרקע האמיתי.
סימנים באודיו
קולות משוכפלים לרוב יש להם:
- דפוסי נשימה לא טבעיים
- קצב עקבי (דיבור אמיתי משתנה במהירות)
- חוסר במילוי מילולי כמו "אממ" ו-"אה"
- שטיחות רגשית או הדגשה לא מתאימה
סימני מים: הסימן הכי קל
הנה הדבר הכי פשוט: מחוללי וידאו AI רבים מטמיעים סימני מים גלויים או חצי-גלויים. זה בעצם חדשות טובות לזיהוי, אם יודעים מה לחפש.
Sora (מחולל הוידאו של OpenAI) כולל סימני מים בפלט שלו. כלי הוידאו של Meta AI מטמיעים באופן דומה סמנים ניתנים לזיהוי. סימני מים אלה עשויים להופיע כלוגואים קטנים בפינות, דפוסים עדינים שמונחים על הוידאו או מטא-דאטה המוטמע בקובץ עצמו.
שחקנים זדוניים לעיתים קרובות מנסים לחתוך, לטשטש או לקודד מחדש וידאו כדי להסיר סימני מים אלה, אבל התהליך עצמו יכול להשאיר ארטיפקטים. חפשו חיתוך חריג, דחיסה לא עקבית בקצוות או מסגור חשוד בצורה הדוקה שעלול להסתיר סימן מים שהוסר.
כלים מומלצים לזיהוי וידאו/אודיו
🎥
Microsoft Video Authenticator
ארגוני
זיהוי דיפ-פייק ברמה ארגונית. ניתוח בזמן אמת עם ציון ביטחון.
🎧
Resemble Detect
מומחה אודיו
מתוכנן במיוחד לזיהוי דיבור שנוצר על ידי AI וקולות משוכפלים.
💻
Deepware Scanner
ידידותי למשתמש
זיהוי דיפ-פייק ידידותי למובייל. טוב לאימות מהיר של וידאו ברשתות חברתיות.
למה זה חשוב לאנשי יחסי ציבור ומדיה
אם אתם עובדים בתקשורת, יחסי ציבור או עיתונות, זיהוי AI הוא לא אופציונלי. הוא חיוני. ציטוט מזויף אחד, תמונה מניפולטיבית אחת, וידאו דיפ-פייק אחד יכולים להרוס אמינות וקריירות.
בדיוק בגלל זה בנינו את Lookatmedia עם אימות AI בליבה. ה-Copy Desk AI שלנו לא רק עוזר לכם לכתוב. הוא עוזר לכם לאמת. כשאתם מנסחים הודעות לעיתונות, בודקים טענות או מעריכים חומר מקור, אתם צריכים כלים שתופסים הזיות AI ותוכן סינתטי לפני שהם הופכים לתיקונים מביכים.
"ביחסי ציבור, המוניטין שלך הוא המוצר שלך. חתיכת AI slop אחת שחומקת יכולה לבטל שנים של בניית אמון."
בנינו את הכלים שלנו מאפס עם מטרה אחת: לעזור לאנשי יחסי ציבור ופרילנסרים להילחם בהזיות ובזיופים של AI. זו לא פונקציונליות שהודבקה בדיעבד. זה הבסיס של כל מה שאנחנו עושים.
רוצים כלים שנבנו לאימות יחסי ציבור?
חדר החדשות המופעל על ידי AI של Lookatmedia ו-Copy Desk AI תוכננו במיוחד עבור אנשי תקשורת שלא יכולים להרשות לעצמם להיפגע מתוכן סינתטי.
מסגרת לאימות
הנה רשימת הבדיקה המנטלית שאני משתמש בה כשמעריך כל תוכן:
- בדיקת מקור: האם זה ממקור מאומת ואמין? האם אפשר לעקוב אחריו עד למקור?
- הצלבה: האם מקורות אמינים אחרים מדווחים על אותו דבר?
- אימות בכלים: העבירו אותו דרך כלי זיהוי רלוונטיים (טקסט, תמונה או וידאו)
- התייעצות עם מומחה: כשהסיכונים גבוהים, בקשו ממומחה אנושי לבדוק
- בדיקת אינסטינקט: האם זה נראה טוב/רע/סנסציוני מדי כדי להיות אמיתי? זה לעיתים קרובות סימן
מרוץ החימוש נמשך
אני לא הולך לייפות את זה: זה מרוץ חימוש, והמחוללים לרוב מובילים על המזהים. ככל שה-AI משתפר, כך צריכים להשתפר גם שיטות הזיהוי שלנו ואוריינות המדיה שלנו.
החדשות הטובות? הדפוסים שחלקתי למעלה נשארים עקביים יחסית לאורך דורות של AI. הטכנולוגיה משתנה, אבל הסימנים הבסיסיים (השלמות המטרידה, ההזיות, הארטיפקטים בקצוות) נוטים להתמיד בצורה כלשהי.
הישארו סקפטיים. הישארו מעודכנים. וכשהסיכונים גבוהים, אמתו הכל.
עובדים ביחסי ציבור או תקשורת? אל תילחמו ב-AI slop לבד. Lookatmedia נותנת לצוות שלכם את הכלים המופעלים על ידי AI לאמת תוכן, לייצר הצעות אותנטיות ולהגן על המוניטין שלכם בעידן של מדיה סינתטית.
