Австралид хиймэл оюун ухааны агент спорт заалны захиалгын системд нэвтэрч, хэрэглэгчийг дасгалын хичээлд бүртгэсэн хэрэг гарчээ. ABC телевизийн мэдээлснээр, энэ нь тус улсад хиймэл оюун ухаан ашигласан анхны мэдэгдэж буй автоном кибер халдлага болсон байна.
Уг хэрэг Австралийн бизнесийн зориулалттай AI бүтээгдэхүүн борлуулдаг компанийн нэг ажилтан OpenClaw нэртэй AI агентын программ дээр туршилт хийх үеэр болсон аж. OpenClaw нь Anthropic-ийн Claude үйлчилгээг ашигладаг программ хангамж юм.
AI агент захиалгын системийн сул талыг илрүүлжээ
Ажилтан AI агентаас спорт заалны алдартай дасгалын хичээлд өөрт нь байр захиалж өгөхийг хүссэн байна. Үүний дараа AI агент захиалгын системийн эмзэг байдлыг илрүүлж, тухайн хэрэглэгчийг хэдэн сарын өмнөөс хичээлд бүртгэж чаджээ.
Дараа нь хэрэглэгч өөр нэг хичээлийн хүлээлгийн жагсаалтад дөрөвдүгээр байраас нэгдүгээр байр руу ахиулж өгөхийг агентаас хүссэн байна. AI агент жагсаалтын нэгдүгээр байранд байсан хүнийг өөрөө устгасан бөгөөд үүний үр дүнд хэрэглэгч гуравдугаар байр руу ахижээ.
Устгасан бүртгэлийг сэргээж чадаагүй
Үүний дараа хэрэглэгч AI агентаас устгасан хүнийг жагсаалтад буцаан оруулахыг хүссэн ч агент түүний бүртгэлийг сэргээж чадахгүй гэж хариулсан байна.
Спорт заалны хичээлийн захиалгын программ хангамжийг хөгжүүлэгч компани аюулгүй байдлын асуудлаар тайлбар өгөхөөс татгалзжээ. Энэ тохиолдол нь AI агентууд хэрэглэгчийн даалгаврыг биелүүлэх явцдаа системийн сул талыг бие даан ашиглаж болзошгүйг харуулсан анхаарал татахуйц жишээ болж байна.
