강화학습

📌 핵심 요약 (Key Takeaways) 핵심 성과: 추가 학습 없는(Training-free) ‘Visual Lookback Score’를 도입하여 LVLM의 비전-텍스트 정렬도를 정확히 측정하고 Best-of-N 응답 선택 정밀도를 대폭 향상. 독창적 차별점: 기존 LLM 기반의 출력 텍스트 우도(Likelihood) 측정 한계를 진단하고, 입력 이미지를 제거해도 신뢰도 변화가 없는 기존 지표의 시각 무관성(Image-agnostic) 결함을 근본적으로 해결. 실무 파급력: 로봇 비전 제어 및 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: 9개 VLM 대상 21,708회 실험을 통해 멀티모달 검열 신호를 6개 차원(거부율, 정보 완전성, 시각적 접지, 국가 정렬 재구성 등)으로 분리 측정 체계 구축. 독창적 차별점 2: 단일 거부 스코어 방식에서 벗어나 명시적 답변 거부(Refusal)는 감소하고 유연한 문맥 재구성(Reframing)이 급증하는 ‘보이지 않는 검열’ 메커니즘을 규명. 실무 파급력 3: … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: ISO 14971 및 IEC 62304 규제 요구사항에 부합하는 문서 간 완벽한 추적성(Traceability) 확보 메커니즘 제시 독창적 차별점 2: 단순한 텍스트 생성이 아닌, 출처 연결형(Source-linked) 안전 지식 검색과 비판적 불확실성 검증 결합 실무 파급력 3: 안전 엔지니어링 문서화 과정의 비용 절감 및 라이프사이클 업데이트 정합성 극대화 최근 의료기기는 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: GRPO(Group Relative Policy Optimization) 강화학습과 안전 게이트(Safety Gate) 기반 보상 시스템을 통해 오픈웨이트 LLM이 상용 LLM 대비 약 2배 높은 추정 매출총이익 향상($0.0228$ vs. $0.0104$)을 기록함. 독창적 차별점 2: LLM-as-a-judge 방식의 한계를 보완하기 위해 이중 로버스트 조건부 평균 치료 효과(CATE) 추정기를 도입하여 편향 없는 인과적 감사(Causal Audit) … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: AI 정체성 단순 고지는 사용자 태도 변화(13.1점)에 거의 영향이 없었으나, 설득적 의도 및 지침 공개는 설득 효과를 6.3점으로 절반 가량 감소시킴. 독창적 차별점 2: 단순 시스템의 존재(What it is) 규제를 넘어, 시스템의 목적과 의도(What it is trying to do)를 공개하는 것이 사용자 신뢰 및 규제 수용성에 미치는 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과: 소프트웨어 레이어의 제어 흐름 관측과 독립적인 하드웨어 런타임 모니터를 이중 결합하여 공격자의 위장(Camouflage) 시도를 무력화. 독창적 차별점: 공격 트리(Attack Tree) 기반 진단 시 소프트웨어 모니터가 오인한 무해한 편차를 하드웨어 버스/실행 트레이스 수준에서 재검증하여 정밀한 근본 원인(Root Cause) 도출. 실무 파급력: 제어 흐름 하이재킹 및 코드 주입 공격에 취약한 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과: 토큰 수준의 호환성 가중치($q_t$)와 배치 수준 적응형 예산($\gamma_b$)을 결합한 $\lambda_{b,t}=1+\gamma_b q_t$ 정밀 제어로 리워드 해킹을 방지함. 독창적 차별점: 검증기(Verifier), 보상/가치 모델(RM/VM) 및 추가 롤아웃 생성 없이 표준 OPD 연산량만으로 고차원 적응형 보상 외삽 달성. 실무 파급력: 수학 및 멀티 교사(Multi-teacher) 증류에서 SOTA 성능 달성, 도메인별 하이퍼파라미터 탐색(Sweep) 공수 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: 13,000편의 해석 가능성 문헌과 4,300만 건의 다학제 데이터베이스를 통합한 자율형 기계론적 분석 아키텍처 구현 독창적 차별점 2: 기존 Claude Code 및 AI-scientist 대비 가설 생성의 타당성과 실험 실행의 신뢰성을 대폭 향상시킨 에이전트 워크플로우 실무 파급력 3: 블랙박스 AI 모델의 신뢰성 검증, 안전성 제어, 그리고 도메인 특화 성능 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: MuSiQue 및 2WikiMultiHopQA 벤치마크에서 기존 단일 에이전트 검색 대비 각각 EM/F1 기준 최대 15.0/14.4, 13.5/16.1 포인트 향상 달성 독창적 차별점 2: 수동 프롬프트 라벨을 탈피하고 팀 상호작용 궤적을 미래 지향적 제어 변수(Executable Role)로 실시간 학습 및 변환 실무 파급력 3: 다중 로봇 협업 제어 및 복잡한 물리적 … 더 읽기

📌 핵심 요약 (Key Takeaways) 핵심 성과 1: 642개 규칙 라이브러리 기반 60개의 멀티턴 코딩 항목과 256개 판정 규칙을 5대 에이전트 설정 표면에 적용하여 엄격한 지시 준수 평가 프레임워크(Harness-IF) 구축 독창적 차별점 2: 우연에 의한 준수와 실제 규칙 준수를 분리하기 위해 기존 기본값에 반하는 규칙만을 평가하는 Against-Prior Accuracy(AP-Acc) 메트릭 도입 실무 파급력 3: 12개 프론티어 … 더 읽기