최신 AI 기술 동향: 구글의 자기 발견 프롬프트 방식

구글과 DeepMind의 연구팀이 개발한 '자기 발견' 프롬프트 방식은 Large Language Models (LLM)이 스스로 프롬프트를 최적화하여 성능을 향상시킬 수 있는  '자기 발견' 프롬프트 방식을 공개했습니다. 이 기술은 LLM의 자가 학습 능력을 크게 향상시키며, 더 높은 정확도와 효율성을 달성하기 위한 AI의 새로운 경로를 제시합니다.

자기 최적화 프롬프트: OPRO

DeepMind에서 제시한 'Optimization by PROmpting (OPRO)'는 LLM을 사용하여 최적화 과제를 자연어로 정의하고, 이를 바탕으로 LLM이 반복적으로 새로운 해결책을 생성하도록 하는 기술입니다. 이 접근법은 기존의 복잡한 수학적 정의 대신 문제를 자연어로 설명함으로써, 비전문가도 쉽게 AI를 활용할 수 있는 길을 열어줍니다.

 

자기 향상 기술: LMSI

구글과 일리노이 대학교 어바나-샴페인(UIUC)의 연구진은 'Language Model Self-Improved (LMSI)'라는 기술을 통해 LLM이 자신에 의해 생성된 데이터셋으로 미세 조정됨으로써 성능을 향상시킬 수 있음을 보여주었습니다. 이 방식은 LLM이 자신의 데이터를 생성하고, 그것으로 스스로를 훈련시킬 수 있는 능력을 가지고 있음을 시사합니다.

 

기술의 장점과 응용

이 기술의 주된 장점은 LLM이 독립적으로 성능을 향상시킬 수 있다는 점입니다. 이는 AI 분야에서 중요한 발전이며, LLM이 보다 정교하고 효율적인 해결책을 제시할 수 있게 됨을 의미합니다. 또한, 이 기술은 LLM이 문맥 내 패턴을 감지하고 최적화 경로를 식별할 수 있게 하여, 기존의 좋은 해결책을 바탕으로 더 나은 해결책을 구축할 수 있도록 합니다.

 

미래 전망

OPRO 방식은 선형 회귀 및 여행 판매원 문제 같은 잘 알려진 수학적 최적화 문제에 테스트되었으며, LMSI 기술은 산술 추론, 상식 추론, 자연어 추론 등 다양한 자연어 처리(NLP) 작업에 대한 벤치마크 데이터세트에서 평가되었습니다.

 

이 기술의 발전은 AI와 LLM의 미래에 큰 기대를 모으고 있으며, AI가 인간과 상호작용하는 방식과 인공지능 기술이 사회에 미치는 영향을 재정의할 가능성을 가지고 있습니다. 구글의 '자기 발견' 프롬프트 방식은 인공지능 기술의 미래와 관련하여 계속 주목해야 할 혁신 중 하나입니다.

LLM Chainer VS 자기 발견

구글의 자기 발견 프롬프트 방식은 LLM이 스스로 성능을 향상시킬 수 있는 방법으로, LLM이 자신의 프롬프트를 최적화하여 더 정확한 결과를 도출합니다. 이 방식은 LLM이 자체 생성한 데이터로 미세 조정되어 성능이 개선되는 자기 학습의 형태를 취합니다. 반면, LLM Chainer나 GPT와 같은 단일 LLM을 활용한 프롬프트 엔지니어링은 주어진 모델 내에서 최적의 입력을 찾아내어 모델의 성능을 극대화하는 접근법입니다. 구글의 방식은 모델 스스로가 성능 향상 경로를 발견하는 반면, 전자는 외부에서 모델을 조작하여 성능을 향상시키려고 시도합니다.