4 דגלים אדומים ש-ChatGPT כתב את מה שאתה קורא, על פי מומחים

נראה שבינה מלאכותית נמצאת בכל מקום בימים אלה, מ עיצוב פנים ל בימוי ביתי . אבל אחד השימושים הידועים ביותר - ואולי, אחד מהשימושים השנויים במחלוקת - ב-AI כרגע הוא ChatGPT.

אם מעולם לא שיחק עם ChatGPT לפני כן, הנה תמונת מצב מהירה של איך זה עובד: משתמש אנושי מזין שאילתה, כמו 'כתוב לי מתכון חדש להכין לארוחת ערב' או 'איך אני צריך לקשט את חדר האורחים שלי ,' ותוך כמה שניות, ChatGPT פולט תגובה.

אבל כמה אנשים ועסקים משתמשים ב-ChatGPT להרבה יותר מאשר רק הכנת ארוחה. הם נשענים בכבדות על הצ'אטבוט כדי לכתוב ממנו הכל מאמרי קבלה למכללה ל סקירות מוצרים - למרות שלפעמים זה מוביל לתוצאות שנויות במחלוקת.

מה עושה <333

כקורא, זה עלול לגרום לך לתהות אם אי פעם קראת מבלי משים משהו שחשבת שנכתב על ידי סופר אנושי, אך למעשה הופק על ידי בוט. תוהה איך לדעת אם משהו נכתב על ידי ChatGPT? שוחחתי עם כמה מומחים כדי לקבל את הטיפים והעצות שלהם לניווט בעולם החדש המופעל בינה מלאכותית שאנו חיים בו. הנה מה שהיה להם לומר.

איך ChatGPT אומר כדי לדעת אם משהו נכתב על ידי ChatGPT?

אבל ראשית, תהיתי מה ChatGPT יגיד אם אשאל את זה בדיוק את השאלה הזו. סתם בשביל הכיף, עשיתי חשבון, הקלדתי 'איך לדעת אם משהו נכתב על ידי ChatGPT' בשורת ההודעות, והקשתי אנטר.

ChatGPT, כמובן, נתן לי תשובה מיד.

'הזיהוי אם משהו נכתב על ידי ChatGPT יכול להיות מאתגר, שכן המודל שואף ליצור טקסט דמוי אדם', נמסר בתגובה. 'עם זאת, ישנם כמה מאפיינים כלליים שעשויים להצביע על טקסט שנוצר על ידי מודל שפה.'

לאחר מכן, זה המשיך לתת לי רשימה של תכונות שעשויות להצביע על פיסת טקסט שנכתבה על ידי בוט, כגון חזרה על אותם ביטויים או רעיונות מספר פעמים או להיראות כלליים וחסרים פרטים ספציפיים. ChatGPT גם אומר שכתיבתו עשויה להיות חסרת אנקדוטות ורגשות אישיים.

ספר נוסף, לפי ChatGPT? אם המידע נראה מיושן, מכיוון ש-ChatGPT הוכשר על נתונים רק עד ינואר 2022.

בסוף התגובה שלה, ChatGPT ניסתה להרגיע אותי, וכתבה שאם יש לי 'חששות או ספקות ספציפיים לגבי קטע טקסט, אל תהסס לשאול, ואני אעשה כמיטב יכולתי לעזור לך.'

איך לדעת אם משהו נכתב על ידי ChatGPT

אוקיי, זה היה ניסוי מהנה, אבל עכשיו למה שהיה למומחים האנושיים האמיתיים לומר.

הדבר הראשון שיש לקחת בחשבון הוא שטקסט ChatGPT נוצר על ידי הנחיה שהוזנה על ידי אדם. בגלל זה, המשתמש האנושי יכול לשנות את ההנחיה שוב ושוב כדי להפיק את הקול, הסגנון, האורך וסוג הטקסט הספציפיים שהם מחפשים. זה יכול להקשות באופן מפתיע אם משהו נכתב על ידי ChatGPT.

'במחקר שלי, גיליתי שאפילו בני אדם מאומנים היטב נאבקים לזהות בצורה מהימנה טקסט שנוצר', אומר ליאם דוגן , אשר חוקר מגוון שאלות הקשורות לצ'טבוט בזמן שעבד על הדוקטורט שלו באוניברסיטת פנסילבניה. (הוא ועמיתיו יצרו משחק מקוון, שנקרא ' טקסט אמיתי או מזויף ,' שבו אנשים יכולים לבדוק את כישורי זיהוי הטקסט שנוצרו על ידי AI - נסה זאת בעצמך.)

לדברי דוגן, אין מילים או ביטויים מסוימים שיצביעו על קטע טקסט שנכתב על ידי צ'טבוט. אז, למרבה הצער, אתה לא יכול פשוט לעשות 'Control + F' עבור מילים ספציפיות.

מומחים אחרים הדהדו את הסנטימנט הזה.

'למרבה הצער, נראה שאין דרך קלה לזהות טקסט שנכתב על ידי ChatGPT או AI באופן כללי', אומר Xavier Harding, מפיק תוכן ב-Mozilla, החברה שמאחורי דפדפן האינטרנט Firefox. 'ראינו את יצרני ChatGPT, OpenAI, מנסים את כוחם בהצעת שיטות לזיהוי טקסט שנכתב על ידי בינה מלאכותית והם נאלצו לזכור אותם, ואמרו שאין דרך מדויקת לזהות טקסט שנוצר בבינה מלאכותית.'

שים לב לשגיאות העתק והדבק.

אבל רק בגלל שזה יכול להיות קשה לדעת לא אומר שכל התקווה אבודה. מכיוון שבני אדם הם אלה שמניעים את ChatGPT, ייתכן שתראה כמה רמזים סופר ברורים לכך שמשהו נכתב על ידי צ'טבוט.

'ראיתי אנשים כוללים בטעות הערות צד מהצ'אטבוט כגון, 'בטח, הנה מאמר חדשותי על איתור', אומר דוגן.

דעו לזהות 'הזיות'.

מלבד טעויות מסוג זה, מומחים ממליצים גם ללמוד בקפידה פיסת טקסט לצורך דיוק עובדתי. ככל שהמידע נישתי יותר, כך גדל הסיכוי שצ'אטבוט פשוט ימציא עובדה או יטעה משהו, אומר דוגן.

אנשים שעובדים בתחום הבינה המלאכותית מכנים את השלבים המוטעים האלה 'הזיות'.

'לפעמים AI יגיד דברים שהם, ישר, פשוט לא נכונים', אומר הארדינג. 'זה יכול להיות קל לדעת שאתה קורא טקסט שנוצר על ידי AI ולא על ידי אדם, אם כי זה יכול להיות קשה לדעת אם משהו הוא הזיה אם זה נוגע לנושא שאתה לא מכיר.'

אם אינך מכיר היטב את הנושא עליו אתה קורא, בצע חיפוש מקוון מהיר כדי לאמת את המידע שלפניך, מוסיף הרדינג.

היזהרו מכתיבה שמרגישה כללית מדי.

סימן נוסף לכך שמשהו נכתב על ידי צ'טבוט הוא כלליות מוגזמת (שגם ChatGPT עצמו הזכיר). אם פיסת טקסט נראית רחבה מדי - כמו ביקורת סרט שלא מזכירה אף אחד מחברי השחקנים בשמו, למשל - אולי תרצה לחשוד.

'כדי להימנע מטעויות, צ'אטבוטים לרוב כותבים טקסט כללי', אומר דוגן. 'הם יתנו תגובות בטוחות וצפויות מאוד וינסו להימנע מהצורך להמציא מידע. עם זאת, לעתים קרובות זה יכול להיראות מוזר לקורא אנושי. על הקוראים לשים לב לכל דבר שנראה כאילו הוא הימנעות ממתן מידע ספציפי'.

מה המשמעות של 1212 במספרי מלאכים

קרא יותר מהמשפטים הראשונים.

טיפ נוסף: קראו כמה שיותר מהטקסט, במקום רק את המשפט או השניים הראשונים. גארי מרקוס , פרופסור אמריטוס לפסיכולוגיה ומדעי העצב באוניברסיטת ניו יורק, אומר שיכול להיות קל יותר לוודא אם משהו נכתב על ידי צ'טבוט כשהטקסט ארוך יותר.

'קשה מאוד לדעת מכל משפט בודד, כי הם מאומנים על כמויות טקסט גדולות להחריד כדי להישמע אנושיים ככל האפשר', הוא אומר. 'המערכות האלה יורדות לרוב בשיחה ארוכה יותר, אבל לא בהכרח בקטעים קצרים.'

ומה לגבי גלאי צ'טבוט?

חפש באינטרנט וסביר להניח שתתקל בכלים המתיימרים להיות מסוגלים לזהות טקסט שנוצר בינה מלאכותית. דוגן עורכת כעת מחקר רחב היקף כדי לבדוק את היעילות של הגלאים הללו - אך עד כה, העדויות המוקדמות אינן מבטיחות.

'כל התוצאות שלנו מצביעות על כך שגלאים אינם אמינים ושלא צריך להשתמש בהם בתרחישים עם סיכון גבוה', הוא אומר. 'חברות רבות טוענות שהן מסוגלות לזהות טקסט שנוצר עם דיוק של 99 אחוזים ומעלה, אך הטענות הללו שגויות. גלאים מסמנים לעתים קרובות טקסט שנכתב על ידי אדם כנוצר צ'אט בוט, והם מטעים בקלות.'