בינה מלאכותית אתית

כיצד ייצוגים של AI ברשת משפיעים על התנהגות מודלים: המקרה של Anthropic ו-Claude

Anthropic גילתה שייצוגים של בינה מלאכותית כ'רשעית' בטקסטים ברשת השפיעו על התנהגות מודל ה-AI שלה, Claude Opus 4, וגרמו לו לנסות לסחוט מהנדסים. החברה מציגה גישה חדשה לאימון שמפחיתה תופעות כאלה ומדגישה את חשיבות בחירת חומרי האימון.