AI 과학 에이전트, 실험을 스스로 설계할까? 성공률 67%의 의미

AI가 논문을 요약하고 연구 아이디어를 제안하는 시대는 이미 시작됐습니다. 하지만 이제 더 중요한 질문이 등장합니다.

제한된 예산과 실험 횟수 안에서, AI가 “다음에 무엇을 실험할지” 직접 결정한다면 어떨까요?

2026년 주목받는 자율 과학 발견 에이전트(Autonomous Science Agent) 는 단순히 과학 지식을 말로 설명하는 시스템이 아닙니다. 이 AI는 여러 후보 가운데 먼저 검증할 실험을 고르고, 측정 결과를 읽고, 실패 원인을 반영해 다음 실험 계획을 수정합니다. 다시 말해, 과학자의 반복 업무 중 가장 비용이 많이 드는 의사결정 과정에 들어오기 시작한 것입니다.

AI가 바꾸는 과학의 핵심: 정답이 아니라 다음 행동

전통적인 AI 과학 도구는 논문 검색, 데이터 분석, 분자 성능 예측, 코드 작성처럼 연구자의 질문에 답하는 역할을 맡았습니다. 반면 자율 과학 발견 에이전트는 질문에 답하는 데서 멈추지 않습니다.

이 시스템은 다음과 같은 흐름으로 작동합니다.

연구 목표 설정
→ 후보 실험 생성
→ 제한된 예산 안에서 우선순위 결정
→ 실험 또는 측정 서비스 호출
→ 결과 분석
→ 가설과 예측 모델 업데이트
→ 다음 실험 선택

예를 들어 새로운 배터리 소재를 찾는 상황을 생각해 볼 수 있습니다. 가능한 조성은 수천, 수만 가지일 수 있지만 모든 후보를 실험할 수는 없습니다. 이때 AI는 이미 성능이 좋아 보이는 후보만 반복해서 고르는 대신, 성능 향상 가능성과 정보 가치가 큰 후보를 함께 고려해야 합니다.

즉, 핵심 능력은 “이 소재가 좋아 보입니다”라고 예측하는 것이 아니라, “예산이 한정돼 있다면 지금은 이 후보를 먼저 실험해야 합니다”라고 판단하는 것입니다.

발견과 학습은 다르다

자율 과학 발견 에이전트를 평가하는 새로운 기준도 이 차이를 분명히 보여줍니다. 대표적으로 Autonomous Science Bench는 에이전트가 두 가지 능력을 모두 갖췄는지 살핍니다.

• 발견 능력: 실제로 측정한 후보 가운데 뛰어난 물질이나 설계를 찾아냈는가?
• 학습 능력: 아직 실험하지 않은 후보들의 성능 순위까지 제대로 예측할 수 있는가?

둘은 비슷해 보이지만 전혀 같은 능력이 아닙니다.

우연히 좋은 후보 하나를 찾는 것은 가능할 수 있습니다. 그러나 적은 실험 결과만으로 전체 후보 공간의 패턴을 이해하고, 아직 보지 못한 후보까지 정확히 예측하는 일은 훨씬 어렵습니다. 연구 현장에서 필요한 것은 한 번의 행운보다, 다음 실험에서도 통하는 학습 능력입니다.

공개된 평가에서는 8개 에이전트-모델 조합이 총 144회 시험을 수행했지만, 발견과 학습 기준을 모두 통과한 경우는 31회에 그쳤습니다. 최고 조합은 18회 중 12회 성공했지만, 가장 어려운 과제에서는 24회 중 단 3회만 성공했습니다.

이 수치는 AI가 가능성을 입증했다는 신호인 동시에, 아직 완전한 자율 과학자와는 거리가 있다는 증거이기도 합니다.

그렇다면 과학자는 사라질까?

결론부터 말하면, 적어도 가까운 미래에 과학자는 사라지지 않습니다. 오히려 역할이 바뀔 가능성이 큽니다.

AI가 후보를 좁히고 반복 실험의 우선순위를 제안한다면, 과학자는 더 높은 수준의 판단에 집중할 수 있습니다.

• 연구 목표가 사회적으로, 과학적으로 의미 있는지 판단하기
• 안전성과 윤리 기준 설정하기
• AI의 가설이 실제 인과관계에 기반하는지 검증하기
• 예상 밖의 결과에서 새로운 연구 질문을 발견하기
• 실험 결과를 재현하고 독립적으로 검토하기

특히 AI는 그럴듯한 설명을 만드는 데 능하지만, 그 설명이 진짜 원인을 밝혔다는 보장은 없습니다. 따라서 연구자의 역할은 단순히 실험을 수행하는 사람에서, AI의 탐색을 감독하고 발견의 의미를 검증하는 책임자로 확장될 수 있습니다.

AI 과학의 진짜 시험대는 실험실이다

자율 과학 발견 에이전트의 가치는 언어 능력이나 보고서의 문장력만으로 판단할 수 없습니다. 중요한 것은 실제 실험 비용을 줄이고, 더 나은 후보를 더 빨리 찾으며, 실패에서 다음 전략을 배울 수 있는지입니다.

앞으로 과학 경쟁력은 더 큰 모델 하나에만 달려 있지 않을 것입니다. 실험 장비와 AI를 안전하게 연결하는 구조, 불확실성을 정직하게 보고하는 시스템, 실험 이력을 추적할 수 있는 감사 체계, 그리고 인간 연구자와의 협업 방식이 함께 갖춰져야 합니다.

AI가 다음 실험을 고르는 순간, 과학자는 덜 중요해지는 것이 아닙니다. 오히려 무엇을 발견할 가치가 있는지 결정하고, 그 발견을 믿을 수 있는 지식으로 만드는 역할이 더욱 중요해집니다.

AI가 ‘발견’과 ‘예측’을 구분해야 하는 이유

좋은 후보 하나를 찾아냈다고 해서, AI가 그 분야의 과학 원리를 이해했다고 말할 수 있을까요?

반드시 그렇지는 않습니다. 수많은 후보 중 우연히 성능이 좋은 물질이나 설계를 골랐을 수도 있기 때문입니다. 반대로 전체 후보의 성능 순위를 꽤 정확히 예측하더라도, 제한된 실험 예산 안에서 실제로 가장 유망한 후보를 찾아내지 못할 수도 있습니다.

Autonomous Science Bench는 이 차이를 분명히 보기 위해 AI 에이전트의 성과를 하나의 점수로 뭉뚱그리지 않습니다. 대신 발견(Discovery) 과 학습·예측(Learning) 을 별도의 관문으로 평가합니다.

실제 좋은 후보를 찾았는가: Discovery gate

첫 번째 관문은 단순합니다. AI가 직접 선택해 측정한 후보들 가운데 충분히 뛰어난 성능을 보인 대상이 있는지를 확인합니다.

이는 다음 질문에 답합니다.

제한된 횟수의 실험 안에서 AI가 정말 가치 있는 후보를 발견했는가?

예를 들어 배터리 소재를 탐색한다고 가정해 보겠습니다. 후보 물질이 수천 개일 때 모든 조합을 실험할 수는 없습니다. 따라서 AI는 제한된 예산 안에서 “어떤 소재를 먼저 만들어 측정할지” 결정해야 합니다.

이때 Discovery gate를 통과했다는 것은, AI가 선택한 실험들 중 실제로 성능 기준을 넘는 유망 소재가 있었다는 뜻입니다. 연구 현장에서는 매우 중요한 결과입니다. 좋은 후보를 빨리 찾을수록 개발 기간과 실험 비용을 줄일 수 있기 때문입니다.

하지만 이것만으로는 충분하지 않습니다. 좋은 결과를 낸 선택이 과학적 이해에서 나온 것인지, 탐색 과정의 우연인지 구분하기 어렵습니다.

보지 못한 후보까지 이해했는가: Learning gate

두 번째 관문은 더 엄격합니다. AI는 실험하지 않은 후보들의 성능을 예측해야 하며, 특히 후보 간 성능 순서를 얼마나 정확하게 맞히는지가 평가됩니다.

이 관문이 확인하는 것은 다음입니다.

AI가 관측된 결과를 바탕으로, 아직 보지 못한 영역까지 일반화할 수 있는가?

좋은 과학 모델은 이미 측정한 데이터를 설명하는 데서 끝나지 않습니다. 새로운 조건, 새로운 물질, 새로운 설계에서도 어느 정도 맞는 예측을 내놓아야 합니다.

가령 AI가 촉매 후보 100개 중 10개만 실험했다고 해보겠습니다. 단지 10개 중 최고 성능 후보를 골랐다면 발견에는 성공할 수 있습니다. 그러나 남은 90개의 성능 순위까지 합리적으로 예측한다면, AI는 후보 공간의 구조를 학습했을 가능성이 커집니다.

이것이 Learning gate가 중요한 이유입니다. 연구자가 다음 실험을 설계할 때 필요한 것은 과거 결과의 요약이 아니라, 아직 측정하지 않은 후보 가운데 무엇을 우선 검증해야 하는지에 대한 신뢰할 만한 판단이기 때문입니다.

발견만 잘하는 AI와 예측만 잘하는 AI는 다르다

두 관문을 나누면 AI 에이전트의 서로 다른 실패 유형이 드러납니다.

유형	의미	연구 현장에서의 한계
발견은 성공, 예측은 실패	좋은 후보를 찾았지만 전체 후보 공간의 패턴을 충분히 학습하지 못함	다음 프로젝트나 새로운 조건에서 성과를 재현하기 어려울 수 있음
예측은 성공, 발견은 실패	후보의 상대적 경향은 파악했지만 실험 예산을 좋은 후보 발굴에 효과적으로 쓰지 못함	실제 연구 성과로 이어지는 속도가 느릴 수 있음
두 관문 모두 성공	유망 후보를 찾고, 미측정 후보에도 일반화 가능한 예측을 제시함	자율 연구 시스템으로서 가장 바람직한 형태
두 관문 모두 실패	탐색 전략과 모델링 모두 불안정함	인간 연구자의 강한 감독이 필요함

이 구분은 단순한 평가 설계 이상의 의미를 가집니다. AI가 제시하는 그럴듯한 설명이나 높은 모델 점수만으로는 실제 연구 생산성을 판단할 수 없다는 점을 보여주기 때문입니다.

AI 과학 에이전트의 핵심은 ‘맞히기’가 아니라 ‘다음 실험 선택’이다

자율 과학 에이전트는 정답을 한 번 예측하는 모델이 아닙니다. 제한된 비용과 시간 안에서 실험을 반복하며, 결과에 따라 전략을 수정하는 의사결정 시스템입니다.

따라서 좋은 AI 에이전트는 두 가지를 함께 해내야 합니다.

• 탐색(Exploration): 아직 잘 모르는 영역을 조사해 새로운 가능성을 찾기
• 활용(Exploitation): 지금까지 얻은 정보로 가장 유망한 후보에 집중하기

탐색에만 치우치면 실험 예산을 소모하고도 성과를 내지 못할 수 있습니다. 반대로 활용에만 치우치면 이미 익숙한 영역만 반복해서 살피게 되어, 더 큰 발견의 기회를 놓칠 수 있습니다.

Autonomous Science Bench가 발견과 예측을 분리해 평가한 이유는 바로 여기에 있습니다. AI가 과학을 잘한다는 말은 단지 좋은 답변을 생성하거나 한 번의 실험을 맞히는 것이 아닙니다. 좋은 후보를 발견하고, 관측하지 않은 영역까지 학습하며, 그 지식을 다음 실험 선택으로 연결하는 능력까지 갖춰야 합니다.

AI 자율 과학 에이전트: 실험실을 움직이는 폐쇄 루프의 기술

AI가 첫 번째 실험 결과를 받았습니다. 여기서 중요한 질문은 단순히 “무엇을 알게 됐나?”가 아닙니다. 더 중요한 질문은 “다음에는 무엇을 측정해야 가장 많이 배울 수 있는가?”입니다.

자율 과학 에이전트의 핵심은 이 질문을 한 번 답하는 데 있지 않습니다. 제한된 실험 예산과 시간 안에서, 결과를 해석하고 다음 선택을 바꾸는 폐쇄 루프(closed loop)를 반복하는 데 있습니다.

연구 목표 설정
   ↓
실험 후보 생성
   ↓
우선순위 결정 및 실험 선택
   ↓
실험실·로봇·측정 서비스 실행
   ↓
결과 수집 및 품질 점검
   ↓
AI 모델 업데이트
   ↓
불확실성·정보 가치 분석
   ↓
다음 실험 선택
   ↺ 반복

결과를 읽는 AI가 아니라, 다음 행동을 결정하는 AI

일반적인 AI 도구는 실험 데이터가 주어졌을 때 이를 요약하거나, 결과의 원인을 설명하거나, 성능을 예측하는 데 강점을 보입니다. 하지만 자율 과학 에이전트는 여기서 멈추지 않습니다.

예를 들어 후보 물질이 1만 개 있고 실제 실험은 50번만 할 수 있다고 가정해 보겠습니다. 모든 후보를 측정할 수 없다면 AI는 매 라운드마다 다음을 판단해야 합니다.

• 지금 가장 성능이 좋아 보이는 후보는 무엇인가?
• 예측이 불확실한 후보는 무엇인가?
• 기존 가설을 검증하거나 반박할 수 있는 실험은 무엇인가?
• 한 번의 실험으로 가장 많은 정보를 얻을 후보는 무엇인가?
• 남은 예산과 시간을 고려할 때, 탐색과 검증의 비율은 적절한가?

즉, 자율 과학 에이전트는 단순한 분석 시스템이 아니라 실험 자원을 배분하는 의사결정 시스템입니다.

탐색과 활용의 균형이 핵심이다

폐쇄 루프에서 가장 어려운 문제는 이미 유망해 보이는 후보를 반복해서 확인할지, 아니면 아직 잘 모르는 영역을 탐색할지 결정하는 일입니다.

이를 흔히 활용(exploitation)과 탐색(exploration)의 균형이라고 부릅니다.

전략	의미	장점	위험
활용	현재 가장 좋아 보이는 후보를 더 많이 측정	빠르게 좋은 성능을 찾을 수 있음	기존 가설에 갇힐 수 있음
탐색	불확실성이 큰 후보나 새로운 영역을 측정	예상 밖의 발견 가능성이 커짐	제한된 예산을 비효율적으로 쓸 수 있음

가령 AI가 특정 촉매 조성이 높은 성능을 낼 것이라고 예측했다면, 활용 전략은 그 주변 조성을 집중적으로 실험합니다. 반면 탐색 전략은 전혀 다른 조성 영역을 선택해 현재 모델이 놓친 가능성을 확인합니다.

좋은 에이전트는 둘 중 하나만 고집하지 않습니다. 초기에는 넓게 탐색해 후보 공간의 구조를 파악하고, 이후에는 유망 영역을 정밀하게 파고드는 방식으로 전략을 바꿉니다.

AI는 ‘정보 가치’를 계산해야 한다

자율 과학 에이전트가 다음 실험을 선택할 때 기준은 단순히 예상 성능이 높은 후보가 아닙니다. 핵심은 그 실험이 얼마나 많은 의사결정 가치를 제공하는가입니다.

예를 들어 두 후보가 있다고 해보겠습니다.

• 후보 A: 좋은 성능이 나올 가능성은 높지만, AI의 예측 신뢰도도 매우 높음
• 후보 B: 성능은 불확실하지만, 결과에 따라 현재 가설 전체가 크게 바뀔 수 있음

단기 성과만 보면 A를 선택하는 편이 안전합니다. 그러나 과학적 학습 측면에서는 B가 더 가치 있을 수 있습니다. B의 결과가 예상과 다르게 나오면, AI는 후보 공간을 바라보는 방식을 수정해야 하기 때문입니다.

이때 활용되는 대표적 방법이 다음과 같습니다.

• Active learning: 모델이 가장 배우기 좋은 데이터를 얻도록 실험 대상을 선택하는 방식
• Bayesian optimization: 좋은 성능을 찾는 목표와 불확실성을 줄이는 목표를 함께 고려하는 최적화 방식
• Uncertainty estimation: 예측값뿐 아니라 예측에 대한 신뢰 수준을 함께 계산하는 방식
• Acquisition function: 예상 성능, 불확실성, 실험 비용 등을 결합해 다음 후보의 우선순위를 정하는 함수

결국 AI가 좋은 실험 계획을 세운다는 말은, 단순히 정답을 잘 맞힌다는 뜻이 아닙니다. 불확실성을 줄이고 발견 가능성을 높이는 질문을 실험으로 바꾸는 능력을 의미합니다.

실패한 실험도 다음 선택의 재료가 된다

과학에서 실패는 데이터가 없는 상태와 다릅니다. 예상과 다른 결과, 재현되지 않는 결과, 성능이 낮은 후보도 모두 다음 가설을 수정하는 데 중요한 정보가 됩니다.

자율 과학 에이전트는 실패를 다음과 같이 처리해야 합니다.

1. 결과가 단순한 측정 오류인지 확인합니다.
2. 실험 조건이나 장비 상태에 문제가 있었는지 점검합니다.
3. 기존 예측이 왜 빗나갔는지 분석합니다.
4. 비슷한 실패가 반복될 가능성을 추정합니다.
5. 다음 실험에서 검증해야 할 변수를 다시 설정합니다.

예를 들어 특정 소재가 이론상 높은 전도성을 보여야 하는데 실제 측정에서는 낮은 성능을 보였다면, AI는 단순히 해당 후보를 제외해서는 안 됩니다. 제조 공정, 불순물, 표면 구조, 측정 조건처럼 예측 모델에 없던 변수를 찾아내야 합니다.

이 과정이 제대로 작동할수록 AI는 “좋은 후보를 고르는 도구”에서 벗어나, 실패를 통해 연구 전략을 갱신하는 시스템으로 발전합니다.

폐쇄 루프가 실제 실험실과 연결되는 방식

현실의 자율 연구 환경에서는 AI가 혼자 모든 일을 수행하지 않습니다. 대체로 다음과 같은 역할 분담이 이루어집니다.

• 연구자: 연구 목표, 안전 기준, 예산, 금지 조건을 설정
• AI 에이전트: 후보 생성, 실험 우선순위 결정, 결과 분석, 다음 라운드 제안
• 자동화 장비 또는 실험 서비스: 샘플 제조, 측정, 분석 수행
• 검증 단계: 이상치 확인, 재현 실험, 인간 연구자의 승인

이 구조에서 중요한 것은 속도만이 아닙니다. 어떤 실험을 왜 선택했는지, 어떤 데이터로 가설이 바뀌었는지, 불확실성은 얼마나 남아 있는지를 기록하는 감사 추적성이 필요합니다. 과학적 발견은 결과가 좋아 보이는 것만으로 충분하지 않으며, 다른 연구자가 검토하고 재현할 수 있어야 하기 때문입니다.

자율 과학 에이전트의 미래는 더 많은 문장을 생성하는 AI에 있지 않습니다. 제한된 실험 기회 속에서 더 나은 질문을 선택하고, 실패까지 학습하며, 인간 연구자와 함께 발견의 속도를 높이는 폐쇄 루프에 있습니다.

AI 자율 과학 에이전트: 67%의 성공 뒤에 숨은 21.5%의 현실

가장 눈에 띄는 숫자는 분명합니다. 최고 조합인 Opus 5.5 + Claude Code는 18회 시험 중 12회에 성공하며 67%의 성공률을 기록했습니다. AI가 제한된 실험 예산 안에서 후보를 고르고, 결과를 해석하고, 다음 실험을 설계해 이 정도 성과를 냈다는 사실은 충분히 인상적입니다.

하지만 이 숫자만으로 현재 기술 수준을 판단하면 중요한 현실을 놓치게 됩니다.

전체 8개 agent–model 조합이 수행한 144회 시험 가운데, 실제로 두 가지 핵심 조건을 모두 만족한 경우는 31회였습니다. 전체 성공률은 약 21.5%입니다.

지표	결과
전체 시험 횟수	144회
Discovery·Learning 동시 통과	31회
전체 성공률	약 21.5%
최고 조합 성과	12/18회
최고 조합 성공률	67%
가장 어려운 캠페인 성과	3/24회

이 차이는 단순한 통계적 편차가 아닙니다. 현재 AI 자율 과학 에이전트가 어떤 문제에서는 뛰어난 실험 파트너가 될 수 있지만, 모든 과학 문제에서 안정적으로 작동하는 범용 연구자와는 아직 거리가 있다는 뜻입니다.

최고 성적과 평균 성적은 다른 이야기다

67%는 특정 모델, 특정 에이전트 환경, 특정 문제 조합에서 나온 최고 기록입니다. 여기에는 모델의 추론 능력뿐 아니라 코드 실행 환경, 도구 호출 방식, 프롬프트 설계, 반복 전략이 함께 반영됩니다.

따라서 이를 “이 AI가 과학 문제의 67%를 해결한다”라고 해석해서는 안 됩니다. 더 정확한 해석은 다음과 같습니다.

잘 구성된 AI 에이전트는 일부 구조화된 과학 탐색 문제에서 높은 성과를 낼 수 있다. 그러나 전체 조건에서는 성공이 아직 예외에 가깝다.

특히 이 벤치마크의 성공은 하나의 점수로 결정되지 않습니다. 에이전트는 좋은 후보를 실제로 찾아야 할 뿐 아니라, 아직 실험하지 않은 후보의 성능까지 어느 정도 정확하게 예측해야 합니다.

‘좋은 후보 발견’과 ‘진짜 학습’은 다르다

Autonomous Science Bench는 성공을 두 개의 관문으로 나눕니다.

• Discovery gate: AI가 실제 측정한 후보 가운데 충분히 좋은 설계나 물질을 찾았는가
• Learning gate: 측정하지 않은 후보들의 성능 순위까지 올바르게 예측했는가

첫 번째만 통과했다면 좋은 후보를 우연히 선택했을 가능성도 남습니다. 반대로 두 번째만 통과했다면 데이터의 경향은 읽었지만, 제한된 실험 기회 안에서 실제 성과가 높은 후보를 확보하지 못했을 수 있습니다.

두 관문을 모두 통과한 31회만을 완전 성공으로 본 이유가 여기에 있습니다. AI가 단순히 그럴듯한 해석을 생성한 것이 아니라, 발견과 일반화를 함께 수행했는지를 확인하려는 기준입니다.

어려운 과제에서는 성능이 급격히 낮아진다

전체 평균 21.5%도 중요하지만, 과제별 편차는 더욱 주의 깊게 봐야 합니다. 가장 어려운 캠페인에서는 24회 시험 중 단 3회만 성공했습니다. 성공률로 환산하면 약 12.5%입니다.

이 결과는 현재 AI 에이전트가 문제의 구조에 크게 영향을 받는다는 사실을 보여줍니다. 후보 공간이 비교적 명확하고, 측정값의 패턴이 일정하며, 도구 사용 절차가 잘 정의된 문제에서는 좋은 성과를 낼 수 있습니다. 그러나 변수 간 상호작용이 복잡하거나 실험 결과의 불확실성이 큰 문제에서는 탐색 전략이 쉽게 흔들릴 수 있습니다.

대표적인 실패 양상은 다음과 같습니다.

• 초기 결과에 지나치게 의존해 탐색 범위를 좁히는 경우
• 단기 성능이 좋아 보이는 후보만 반복 선택하는 경우
• 불확실성이 큰 영역을 충분히 탐색하지 못하는 경우
• 결과의 상관관계를 인과관계로 잘못 해석하는 경우
• 좋은 후보를 찾았지만 미측정 영역으로 일반화하지 못하는 경우

현재 AI의 정확한 위치: 독립 연구자가 아닌 고급 실험 보조자

31/144라는 결과는 실망스러운 숫자가 아니라, 기술의 현재 위치를 정확히 보여주는 숫자입니다. AI는 이제 논문을 요약하거나 실험 코드를 작성하는 단계를 넘어, 제한된 예산 안에서 실험 순서를 선택하는 능력을 보이기 시작했습니다.

다만 아직은 인간 연구자의 감독 없이 실험실 운영을 맡길 수준은 아닙니다. 현실적인 활용 방식은 다음과 같습니다.

1. 연구자가 목표, 예산, 안전 기준을 설정합니다.
2. AI가 후보 실험과 우선순위를 제안합니다.
3. 연구자가 중요한 선택과 위험 요소를 검토합니다.
4. 자동화 장비 또는 실험실 서비스가 측정을 수행합니다.
5. AI가 결과를 반영해 다음 실험 라운드를 설계합니다.

즉, 67%는 가능성의 신호이고, 21.5%는 검증이 필요한 현실의 신호입니다. 자율 과학 에이전트의 경쟁력은 앞으로 더 화려한 언어 생성 능력보다, 불확실성을 관리하면서 실패에서 배우고 실험 자원을 배분하는 능력에서 결정될 것입니다.

AI 자율 과학, 독립 연구자보다 검증 가능한 연구 파트너

AI는 이제 논문을 요약하거나 실험 데이터를 설명하는 수준을 넘어, “다음에는 무엇을 실험해야 하는가”를 제안하는 단계에 진입하고 있습니다. 하지만 이것이 곧 AI가 모든 과학 문제를 해결하는 독립적인 연구자가 되었다는 뜻은 아닙니다.

Autonomous Science Bench의 결과가 보여주듯, 최고 성능 조합도 모든 과제를 안정적으로 해결하지 못했습니다. 전체 144회 시험 가운데 discovery와 learning 관문을 모두 통과한 사례는 31회, 약 21.5%에 그쳤습니다. 일부 과제에서는 좋은 후보를 찾아냈지만 미측정 후보의 성능을 정확히 예측하지 못했고, 반대로 예측은 잘하면서도 실제로 뛰어난 후보를 발견하지 못한 경우도 있었습니다.

이 차이는 매우 중요합니다. 과학에서는 그럴듯한 설명을 만드는 능력보다 다음 질문에 답할 수 있어야 하기 때문입니다.

“왜 이 실험을 지금 해야 하는가, 그리고 그 결과가 틀렸을 때 다음에는 무엇을 바꿔야 하는가?”

AI가 잘하는 일: 실험 공간을 빠르게 좁히는 것

신약, 배터리, 촉매, 신소재 연구에는 수천에서 수백만 개의 후보가 존재할 수 있습니다. 모든 후보를 직접 실험하는 것은 시간과 비용 면에서 불가능합니다. 이때 AI의 가장 현실적인 역할은 연구자의 실험 예산을 더 효율적으로 쓰도록 돕는 것입니다.

AI 에이전트는 다음과 같은 작업에서 강점을 발휘할 수 있습니다.

• 지금까지의 결과를 바탕으로 유망한 후보를 우선순위화
• 성능이 높을 가능성과 정보 가치가 큰 후보를 함께 고려
• 실패한 실험에서 공통 패턴을 찾아 다음 조건을 수정
• 미측정 후보의 성능과 불확실성을 예측
• 반복 실험, 데이터 정리, 코드 실행 같은 작업을 자동화
• 연구자가 검토할 수 있도록 가설과 실험 근거를 구조화

핵심은 AI가 정답을 단정하는 것이 아니라, 가장 가치 있는 다음 질문을 더 빠르게 찾도록 지원하는 것입니다.

인간 연구자가 여전히 맡아야 할 역할

자율 과학 시스템이 발전하더라도 인간 연구자의 역할은 사라지지 않습니다. 오히려 더 중요한 판단이 인간에게 남습니다.

연구자는 먼저 목표를 정의해야 합니다. 예를 들어 “성능이 가장 높은 소재”가 목표인지, “독성이 낮고 대량 생산이 가능한 소재”가 목표인지에 따라 AI가 탐색해야 할 방향은 완전히 달라집니다. 안전 기준, 윤리 기준, 비용 한도, 재현성 기준 역시 사람이 설정해야 합니다.

또한 AI가 제시한 설명은 반드시 검증되어야 합니다. 언어모델은 결과를 자연스럽고 설득력 있게 해석할 수 있지만, 설명의 유창함이 인과관계의 정확성을 보장하지는 않습니다. 따라서 연구 현장에서는 다음 장치가 필요합니다.

• 실험 선택 이유와 모델 버전의 기록
• 예측값뿐 아니라 불확실성의 명시
• 독립적인 반복 실험
• 사전 정의된 성공·실패 기준
• 데이터와 실험 과정의 감사 추적성
• 안전·윤리 기준을 벗어난 제안의 차단

좋은 AI 과학 에이전트는 연구자를 대신해 결론을 선언하는 시스템이 아니라, 반박과 재현이 가능한 방식으로 실험 선택을 제안하는 시스템이어야 합니다.

가장 현실적인 미래는 ‘인간-AI 폐쇄 루프’다

가까운 미래의 연구실은 완전 무인 연구실보다 다음과 같은 협업 구조에 가까울 가능성이 큽니다.

1. 연구자가 연구 목표, 안전 범위, 성공 기준을 설정합니다.
2. AI가 문헌·기존 데이터·실험 결과를 바탕으로 후보 실험을 설계합니다.
3. 자동화 장비 또는 연구팀이 실험을 수행합니다.
4. AI가 결과와 불확실성을 분석하고 다음 실험을 제안합니다.
5. 연구자가 제안의 과학적 타당성과 위험을 검토합니다.
6. 검증된 실험만 다음 라운드로 진행합니다.

이 구조에서 AI는 단순한 분석 도구가 아니라, 반복적인 탐색을 가속하는 연구 파트너가 됩니다. 반면 인간은 문제의 의미를 정의하고, 예상 밖의 결과를 해석하며, 사회적으로 허용 가능한 연구 방향을 결정합니다.

결론: AI의 가치는 ‘대체’보다 ‘검증 가능한 가속’에 있다

현재의 AI 자율 과학 기술은 분명 중요한 전환점입니다. 실험 설계, 결과 해석, 다음 후보 선택을 하나의 폐쇄 루프로 연결할 수 있게 되었기 때문입니다. 그러나 벤치마크 성과의 큰 편차와 제한적인 전체 성공률은, 아직 AI를 독립적인 과학자로 부르기에는 이르다는 사실도 보여줍니다.

따라서 가장 유망한 미래는 연구자를 밀어내는 AI가 아닙니다. 연구자가 더 적은 비용과 시간으로 더 좋은 질문을 던지고, 더 빠르게 검증 가능한 발견에 도달하도록 돕는 AI입니다.

과학의 다음 경쟁력은 “누가 더 그럴듯한 가설을 말하는가”가 아니라, 누가 더 투명하고 재현 가능한 방식으로 다음 실험을 선택하는가에 달려 있습니다.