Red Teaming สำหรับโมเดลเชิงกำเนิด
Red teaming เป็นการทดสอบฝ่ายตรงข้ามที่มีโครงสร้าง: ผู้เชี่ยวชาญพยายามทำลายโมเดลและระบบโดยรอบของคุณก่อนที่ผู้โจมตีจะทำ สำหรับ generative AI เป้าหมายรวมถึงเนื้อหาที่เป็นอันตราย การรั่วไหลของความเป็นส่วนตัว การแทรกข้อมูลทันที การใช้เครื่องมือในทางที่ผิด และเอาต์พุตที่มีอคติ ผลการวิจัยป้อนงานในมือที่ได้รับการจัดลำดับความสำคัญ ไม่ใช่รายงาน PDF แบบครั้งเดียว