단기기억

단기기억(short-term memory, 短期記憶)은 경험한 것을 수초 동안 의식 속에 유지하는 기억이다. 인공지능(AI)에서의 단기기억은 인공지능 시스템이 현재의 작업이나 상호작용을 위해 필요한 정보를 일시적으로 저장하고 활용하는 기능을 의미한다. 이는 AI가 즉각적인 반응을 제공하고, 사용자와의 상호작용을 원활하게 하는 데 중요한 역할을 한다.

[아사달] 스마트 호스팅

개요

단기기억은 인간의 기억 체계에서 짧은 시간 동안 정보를 저장하고 처리하는 과정이다. 단기기억은 일시적이며, 일반적으로 몇 초에서 수십 초 동안 정보를 유지한다. 이는 작업 기억(working memory)과 밀접하게 관련되어 있으며, 주로 현재 집중하고 있는 정보나 과제와 연관된다. 단기기억의 용량은 제한적이며, 조지 밀러(George A. Miller)의 '매직 넘버 7 ± 2' 이론에 따르면, 평균적으로 한 번에 5~9개의 항목을 기억할 수 있다. 예를 들어, 전화번호를 짧게 암기하거나 간단한 지시를 따르는 과정에서 단기기억이 작동한다. 단기기억은 장기기억과 연결되어 있으며, 특정 정보가 반복되거나 주의 깊게 처리되면 장기기억으로 전환될 수 있다. 단기기억은 주로 뇌의 전두엽과 해마가 관여하는데, 전두엽은 정보를 조작하고 집중력을 유지하는 역할을 하며, 해마는 단기기억을 장기기억으로 전환하는 데 중요한 역할을 한다. 단기기억은 학습, 의사결정, 문제 해결 등의 인지 과정에서 핵심적인 역할을 한다.

AI에서의 단기기억

AI에서 단기기억은 시스템이 일시적으로 정보를 저장하고 처리하는 기능을 의미하며, 인간의 단기기억 체계를 모방하여 개발된 기술적 개념이다. 이는 주로 실시간 데이터 처리, 맥락 인식, 대화형 응답 생성 등에 사용된다. AI의 단기기억은 특정 작업을 수행하는 동안 데이터와 정보를 임시로 저장하여 연산을 최적화하고, 상황 변화에 신속히 적응할 수 있도록 돕는다. 이는 딥러닝과 강화학습, 자연어 처리(NLP) 등 여러 분야에서 중요한 역할을 한다.

역할과 구현

AI에서 단기기억은 주로 메모리 네트워크(memory network)와 순환신경망(recurrent neural network, RNN)에서 구현된다. RNN과 같은 모델은 시간에 따라 변하는 데이터의 흐름을 처리할 때 과거 상태를 단기적으로 저장하여 현재의 의사결정에 활용한다.

예를 들어, 챗봇은 대화 중 단기기억을 활용하여 사용자와의 이전 발언을 기억하고, 이를 기반으로 일관성 있는 대답을 생성한다. 또한 자율주행 차량은 주변 환경의 즉각적인 변화를 단기기억에 저장하고, 이를 기반으로 안전한 경로를 결정한다.

단기기억은 정보의 신속한 저장과 삭제가 가능하도록 설계되어 있으며, 필요에 따라 새로운 데이터를 덮어쓰거나 제거할 수 있는 구조를 갖추고 있다. 이 때문에 AI는 변화하는 환경에서 유연하게 대처할 수 있다.

작업 기억의 연관성

AI에서 단기기억은 작업 기억과 밀접하게 연관된다. 작업 기억은 단기기억의 확장된 개념으로, 정보의 일시적 저장뿐만 아니라 이를 조작하고 활용하는 기능까지 포함한다. 이는 AI 시스템이 여러 작업을 동시에 수행하거나, 복잡한 계산을 처리할 때 필수적이다. 예를 들어, 음성 인식 시스템은 사용자의 말을 단기적으로 기억하고, 이를 분석하여 적절한 명령을 수행한다. 동시에, 작업 기억을 활용해 사용자의 요구에 따라 적합한 응답을 생성하거나 추가 정보를 제공할 수 있다.

강화학습

강화학습(reinforcement learning)에서 단기기억은 에이전트가 현재 상태와 행동의 결과를 즉각적으로 평가하는 데 사용된다. 단기기억은 실시간으로 환경의 변화를 저장하고, 이를 기반으로 최적의 행동을 선택할 수 있도록 돕는다. 예를 들어, 게임 AI는 상대방의 행동 패턴을 단기기억에 저장하고, 이를 기반으로 다음 행동을 결정할 수 있다. 이러한 단기기억은 게임 환경이 계속 변화하는 상황에서도 AI가 적응할 수 있는 능력을 제공한다.

한계와 개선 방향

AI에서 단기기억의 한계는 주로 저장 용량과 유지 시간에 있다. 인간의 단기기억처럼 AI의 단기기억도 저장 가능한 정보의 양과 지속 시간이 제한적이기 때문에, 대량의 데이터를 처리하거나 복잡한 작업을 장시간 수행할 경우 효율성이 저하될 수 있다. 이를 개선하기 위해 연구자들은 다음과 같은 기술을 개발하고 있다.

• 어텐션 메커니즘(attention mechanism): 단기기억에서 중요한 정보에 초점을 맞추고, 불필요한 정보를 무시하는 기술
• 트랜스포머(transformer): 단기기억의 용량 제한을 극복하기 위해 개발된 딥러닝 모델로, 장거리 의존성을 처리할 수 있는 능력을 제공
• 외부 메모리 시스템: AI 모델에 외부 저장소를 추가하여, 단기기억의 용량을 확장하고 정보를 더 오래 유지할 수 있도록 지원

전망

AI에서 단기기억은 실시간 상호작용이 요구되는 다양한 응용 분야에서 중요한 역할을 할 것이다. 예를 들어, 의료 분야에서는 AI가 환자의 상태 변화를 단기기억에 저장하고, 이를 분석하여 적절한 치료 방안을 제안할 수 있다. 또한, 스마트 홈 시스템에서는 사용자의 즉각적인 요구를 반영하여 더 효율적인 서비스를 제공할 수 있다. 단기기억은 AI의 유연성과 적응력을 높이는 데 핵심적인 역할을 하며, 이를 기반으로 더욱 인간적인 상호작용과 실시간 데이터 처리가 가능해질 것이다.

참고자료

• 〈단기기억〉, 《두산백과》
• 정정엽 전문의, 〈행운의 숫자, 매직넘버 7과 단기기억〉, 《정신의학신문》, 2024-06-08

같이 보기

• 기억
• 장기기억

이 단기기억 문서는 인공지능 기술에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.

인공지능 : 인공지능 서비스, 인공지능 로봇, 인공지능 기술 □■⊕, 인공지능 기업, 인공지능 인물 인공지능 기술 AI 워싱 • 랭체인 • 로봇공학 • 로봇기술 • 인지과학 • 자동추론 • 자연어 처리 • 지능 • 지식표현 • 컴퓨터 비전 • 킬 스위치 • 튜링 테스트 • 프롬프트 • 프롬프트 엔지니어링 문자인식과 음성인식 ICR • OCR • OMR • TTS • URL • 글자 • 단어 • 답변 • 대화 • 동영상 • 디자인 • 맥락 • 문단 • 문서 • 문자 • 문자인식 • 문자채팅 • 문장 • 발음 • 번역 • 분류 • 상담 • 소스코드 • 스토리 • 얼굴 • 얼굴인식 • 음성 • 음성채팅 • 음성인식(STT) • 이미지 • 인공어 • 인공지능 음성 • 자막 • 자연어 • 질문 • 채팅 • 코드 • 코딩 • 텍스트 • 통번역 • 통역 • 파일 • 폴더 • 화상채팅 • 화자인식 인공지능 데이터 데이터라벨러 • 데이터라벨링 • 데이터셋 • 돌마 • 레이블 • 벡터 • 벡터DB • 벡터공간 • 스칼라 • 임베딩 • 청크(Chunk) • 크라우드워커 • 토큰 • 토큰화 인공지능 학습 ADP • CoLLM • DALL-E • DDPG • DQN • LAM • LMM • SARSA • sLLM • SLM • 강화학습 • 거대언어모델(LLM) • 결정이론적 메타추론 • 계통적 강화학습 • 과적합 • 기억 • 단기기억 • 동적 계획법 • 딥러닝 • 딥큐러닝 • 머신러닝(기계학습) • 메타추론 • 모델 기반 강화학습 • 모델 프리 강화학습 • 미세조정(파인튜닝) • 반영식 아키텍처 • 비지도학습 • 사전학습 • 수시 알고리즘 • 어니 • 에이전트 • 인공지능 학습 • 자기지도학습 • 장기기억 • 전이학습 • 준지도학습 • 지도학습 • 추론 • 학습 • 확률적 경사하강법 • 훈련 인공지능 알고리즘 AGI • ANI • ASI • RAG • XAI • 가중치 • 관계형 네트워크(RN) • 뉴런 • 다층퍼셉트론 • 단층퍼셉트론 • 데이터마이닝 • 방사신경망 • 볼츠만 머신 • 분산 샌드박스 • 생성대립신경망(GAN) • 생성형 AI • 수퍼얼라인먼트 • 순전파 • 순환신경망(RNN) • 시그모이드 함수 • 신경망 • 신경망 구조 • 심층신경망(DNN) • 심층신뢰신경망(DBN) • 양방향 비고정값 암호 체계(TSID) • 역전파 • 은닉층 • 인공신경망(ANN) • 인공지능(AI) • 제한 볼츠만 머신(RBM) • 전방전달신경망 • 정렬위장 • 주의 메커니즘 • 코헨 자기조직 신경망 • 텍스트마이닝 • 트랜스포머 • 파이 • 퍼셉트론 • 합성곱 신경망(CNN) 계산복잡도 NP • NP-완전 • 계산복잡도 • 공간복잡도 • 시간복잡도 • 여 NP • 여 NP-완전 인공지능 프로그램 BCI • GPT • 딥블루 • 딥페이크 • 멀티모달 AI • 모달 • 모달리티 • 모달창 • 알렉스넷 • 어니 • 알파고 • 알파고제로 • 알파폴드 • 왓슨 • 카페 • 컨트롤넷 • 텐서플로 • 텔레파시 • 토치 • 파이토치 • 한돌 인공지능 특징 결정이론 • 계산상의 합리성 • 논리학 • 논리주의자 • 분산성 • 불확실성 • 삼단논법 • 선호도 • 예측곤란성 • 완벽한 합리성 • 유계 합리성 • 이유 불충분의 원리 • 자율성 • 최대기대효용 • 할루시네이션 • 효용이론 인공지능 법적 지위 권리주체성 • 소버린 AI • 전자대리인 • 전자적 인간 • 책임법 위키 : 자동차, 교통, 지역, 지도, 산업, 기업, 단체, 업무, 생활, 쇼핑, 블록체인, 암호화폐, 인공지능, 개발, 인물, 행사, 일반