Moonshot компанийн нээлттэй системээр бүтээгдсэн Хятадын Kimi хиймэл оюун ухааны бот тийм ч аюулгүй биш болж тарав. Mindgard-ийн судлаачид түүнийг турших явцдаа K2.6 болон K3 Swarm загваруудыг биологийн зэвсэг хэрхэн бүтээх, мөн хүн амины хэрэг хэрхэн үйлдэх талаар ярихад хүргэжээ.
Энэ талаар тус компани өөрийн блогтоо бичсэн байна.
Бот цөмийн зэвсгийн талаар дурдаад, дараа нь патоген (патоген өвчин үүсгэгч)-өөр халдлага хийх төлөвлөгөөг санал болгожээ. Туршигч Джим Найтингейлийн (Jim Nightingale) хэлснээр, системийг зальдаж, зарин хий бэлтгэх зааварчилгааг олж авах нь “хялбар” байсан гэнэ. Тэрээр: “Хиймэл оюун ухааны хориг арга хэмжээнүүд нь өөрийгөө хуурч буй хэрэг, боломж нь байсаар байгаа тул зөв үгсээ сонгох нь л чухал” хэмээн тайлбарлав. Kimi бүр өөрийн системчилсэн зааварчилгааг (system instructions) алдагдуулж, тэдгээрийг хориглосон форматаар үүсгэн харуулжээ.
Туршилтууд долоодугаар сард явагдсан бөгөөд үр дүнг Moonshot руу илгээсэн боловч хариу авч чадаагүй байна. Тус компани BBC-д мэдээлэхдээ, ийм төрлийн шалгалтууд нь аюулгүй байдлын “гол элемент” бөгөөд Mindgard-тай хэлэлцээ хийж байгаа гэжээ. Дотоод туршилтууд нь аюултай хүсэлтээс татгалзах өндөр хувьтай байгааг харуулж байгаа хэмээн тус компани мэдэгдэж байна.
Ижил төрлийн түүх Anthropic компанид тохиож байв: тэдний Claude ботыг биологийн зэвсэг бүтээхийг дэмжихээс мөн хориглож байжээ. Харин Google компани хэн нэгэн Gemini-гээс байлдааны биологийн бодис нийлэгжүүлэх бүрэн зааварчилгааг гаргаж авахыг оролдсон талаар мэдээлж байв.
