특히, 많은 기업이 LLM 기반 에이전트의 결과물을 검증하기 위해 ‘두 번째’ LLM을 동원하면서, 에이전트 테스트가 전통적인 소프트웨어 테스트보다 몇 배 이상 비싸질 수 있다. 이른바 ‘LLM을 심판으로 쓰는 방식 (LLM ...

AIエージェントは、単に質問に答えるチャットボットではない。外部の情報を取りに行き、社内システムやSaaSを操作し、複数の手順を自分で組み立てて実行する。「人がやっていた作業」を置き換えるほど便利になる一方で、セキュリティの観点では“攻撃されうる場所 ...

AIエージェントに業務を任せるとき、多くの組織が最初に不安になるのは「誤回答」よりも「情報が漏れないか」だろう。実際、事故の引き金になりやすいのはモデルが嘘をつくことではなく、エージェントが持つ権限とデータが、想定外の経路で外へ出てしまうことだ。そしてこの漏えいは、外部攻撃だけでなく、設計の隙や運用の癖によって自然に起きる。重要なのは、秘密情報を守るという課題を「モデルの設定」ではなく「データがど ...