|
10月19日、複数のWeChatグループで次のようなメッセージが拡散していると報じられた。「大手テクノロジー企業の大規模モデルのトレーニングが、インターン生による悪意あるコードの注入によって侵害され、トレーニング結果の信頼性が低下し、再トレーニングが必要になる可能性がある。侵害されたコードは8,000枚以上のカードに注入され、その結果生じた損失は1,000万ドルを超える可能性があるとされている。」 街面ニュースによると、この事件に関与した主要企業はByteDanceです。この事件は今年6月に発生し、ByteDanceの商業化技術チームでインターンシップをしていた博士課程の学生が起因しています。この学生はチームのリソース配分に不満を抱き、悪意のあるコードを使ってチームのモデル学習タスクを妨害しました。 現時点では、ByteDanceはこの件に関して公式な回答を出していない。 噂によると、Tianという姓のインターン生がHF(huggingface)の脆弱性を悪用し、社内の共有モデルに悪意のあるコードを注入したため、学習パフォーマンスに一貫性がなくなり、期待通りの結果が得られなかったとのことです。AMLチームは原因を調査できませんでした。しかし、噂が浮上した後、インターンはWeChatグループで噂を否定し、論文発表後にByteDanceを退職し、誰かが脆弱性を悪用してモデルコードを改変し、自分に責任をなすりつけようとしたと主張しました。 街面ニュースによると、バイトダンスは内部調査を実施し、この事件は田(Tian)という名のインターンによって行われたことを確認した。このインターンはその後解雇された。 |
バイトダンスは、インターンによる大規模モデルトレーニングプログラムの攻撃容疑で告発され、犯人は解雇された。
関連するおすすめ記事
-
インターネットがなくても接続を維持!Xiaomi 15シリーズのStarry Skyワイヤレス接続は、12月末までに通話範囲が6kmにアップグレードされます。
-
Neta Autoはレイオフに対して再び反応を示しました。現在調整が進行中で、各部門は業務ニーズに基づいて独自の人員比率を設定しています。
-
ネタオートは、ネタ映画のプロデューサーを500万元で訴えるという噂に対して「全くの捏造だ」と反応。
-
賈月亭のセカンドカーブランドが、グローバルロゴデザインコンペを開催!賞金は最大3万ドル。
-
ホンダは、合併を成功させるには日産の営業利益が少なくとも3倍に増加する必要があると述べた。
-
Google は、新しい Android XR オペレーティング システムのリリースを正式に発表しました。このシステムを採用する最初のデバイスとして Samsung のヘッドセットが採用され、すべての Android アプリケーションがサポートされます。