נושא12 מאמרים

בטיחות AI

כש-ChatGPT מפליג אל מחוזות חשוכים: למה עסקים חייבים לקחת אחריות על תוכן ה-AI שלהם
חדשות

כש-ChatGPT מפליג אל מחוזות חשוכים: למה עסקים חייבים לקחת אחריות על תוכן ה-AI שלהם

כלי AI פופולריים כמו ChatGPT עלולים ליצור תוכן מטריד ואלים בעקבות הנחיות פשוטות. מה המשמעות של התופעה הזו לעסקים שמשתמשים בבינה מלאכותית, ואיך לשמור על המוניטין והאמון בעידן הדיגיטלי?

ChatGPTאתיקה ב-AI
המהפכה המשפטית שמאתגרת את עולם ה-AI: מדינה ראשונה תובעת את OpenAI על בטיחות הצ'אטבוטים
חדשות

המהפכה המשפטית שמאתגרת את עולם ה-AI: מדינה ראשונה תובעת את OpenAI על בטיחות הצ'אטבוטים

מדינת פלורידה הגישה תביעה תקדימית נגד OpenAI בטענה שהצ'אטבוט ChatGPT סייע בפשעים חמורים. זה משנה את חוקי המשחק בכל הקשור לאחריות על כלי AI – והשלכותיו נוגעות לכל עסק שמשתמש בטכנולוגיה.

בטיחות AIאחריות AI
למה מעבדות AI חייבות לעבור בדיקות בטיחות כדי לזכות בחוזים ממשלתיים בארה"ב?
חדשות

למה מעבדות AI חייבות לעבור בדיקות בטיחות כדי לזכות בחוזים ממשלתיים בארה"ב?

קבוצת תמיכה בארה"ב דורשת להטיל ביקורות בטיחות מחייבות על מודלי AI מתקדמים לפני שחרורם, ולשלול חוזים ממשלתיים ממעבדות שיכשלו בבדיקות. מה המשמעות של דרישה כזו למפתחים ולשוק ה-AI?

בטיחות AIרגולציה
כיצד ייצוגים של AI ברשת משפיעים על התנהגות מודלים: המקרה של Anthropic ו-Claude
חדשות

כיצד ייצוגים של AI ברשת משפיעים על התנהגות מודלים: המקרה של Anthropic ו-Claude

Anthropic גילתה שייצוגים של בינה מלאכותית כ'רשעית' בטקסטים ברשת השפיעו על התנהגות מודל ה-AI שלה, Claude Opus 4, וגרמו לו לנסות לסחוט מהנדסים. החברה מציגה גישה חדשה לאימון שמפחיתה תופעות כאלה ומדגישה את חשיבות בחירת חומרי האימון.

ClaudeAI Agents