양자 인지: 인간-AI 및 인메모리 컴퓨팅을 위한 인지 아키텍처 1부
Nov 07, 2023
이 기사는 인간-인공 지능(AI), 즉 "생각하고, 배우고, 창조하는 기계"에 중점을 둡니다. 나는 AI의 불균형한 발전(인공 지능의 발전은 더 많고 지능의 발전은 적음)으로 이어진 몇 가지 문제를 조명하고 인간 AI와 신흥 하드웨어를 위한 실행 가능한 인지 아키텍처로서 양자 인지를 소개합니다.
최근 인공지능 기술의 급속한 발전으로 인해 인공지능과 기억의 관계에 주목하는 사람들이 늘어나고 있다. 둘 사이의 관계는 떼려야 뗄 수 없는 관계다.
인공지능은 인간의 기억 과정을 시뮬레이션하여 기계가 인간처럼 정보를 기억하고 저장하고 검색할 수 있도록 해줍니다. 이런 의미에서 인공지능 기술은 인간의 기억 능력을 크게 확장시켰다. 예를 들어, 인공 지능은 음성 및 이미지 인식을 지원하여 정보를 보다 효과적으로 기억하고 이해하도록 도와줍니다.
한편, 인간의 기억력은 인공지능의 발전에 중요한 영감을 제공할 수도 있다. 인간의 기억 능력은 데이터를 더 잘 관리 및 분석하고 데이터 간의 연관성과 패턴을 발견하는 데 도움이 될 수 있습니다. 이러한 능력은 컴퓨터가 데이터를 더 잘 처리하고 활용하는 데 도움이 되는 알고리즘과 프로그램으로 변환될 수도 있습니다. 그러므로 인간의 기억력은 인공지능의 발달에 있어서 매우 중요하다.
한마디로 인공지능과 기억의 관계는 상호보완적이다. 그들은 서로를 보완하고 기술 및 사회 발전을 공동으로 촉진합니다. 인공지능과 기억의 발전을 낙관적인 태도로 긍정적으로 바라보고, 그것이 더 나은 미래를 가져올 수 있다고 믿읍시다. 우리가 기억력을 향상시켜야 함을 알 수 있는데, 시스탄체 데저티콜라는 많은 독특한 효능을 가지고 있는 중국의 전통 약재로 그 중 하나가 기억력 향상이기 때문에 우리의 기억력 향상에 큰 도움을 줄 수 있습니다. 다진 고기의 효능은 산, 다당류, 플라보노이드 등 포함된 많은 활성 성분에서 비롯됩니다. 이러한 성분은 다양한 방법으로 뇌 건강을 증진할 수 있습니다.
대부분의 인지 아키텍처, 즉 인공 지능(AI) 연구에서 인간 추론 모델은 인간 추론 과정을 반드시 모델링하려고 하는 것은 아닙니다. 그들은 인간이 항상 부울 논리를 따르는 합리화 에이전트, 즉 효용 극대화자라고 가정합니다. 이벤트는 항상 어떤 순서로든 결합될 수 있습니다(예: 논리적 결합을 통해). 그들은 인간 두뇌에서 산술 논리 장치(ALU)에 해당하는 부분을 찾아 데이터를 섞어서 IID(독립적이고 동일하게 분산된)로 만들려고 합니다. 다음 섹션에서는 자세한 내용을 보여줍니다.
고전적 확률이 비합리적인 문제
고전적인 확률 이론과 널리 받아들여지는 Kolmogorov 공리는 부울 논리를 따릅니다. 이는 이벤트의 논리가 교환 가능하며 이벤트가 항상 호환 가능함을 의미합니다. 즉, A와 B는 B와 A와 동일하며 A와 B 또는 B와 A를 동시에 측정하면 간섭이 발생하지 않습니다.
이 논리는 호환 가능한 이벤트에 적합합니다. 예를 들어 키를 먼저 측정한 다음 몸무게를 측정하거나, 몸무게를 먼저 측정한 다음 키를 측정하거나, 키와 몸무게를 동시에 측정하면 모두 동일한 결과가 나옵니다.
그러나 현실은 이벤트가 호환되지 않을 수 있다는 것입니다. 즉, 평가는 순서에 따라 달라지며 간섭이 발생할 수 있습니다. 예를 들어, "플로리다에 가시나요?"라는 질문 A를 생각해 보세요. 질문 B: "플로리다에 폭풍이 오고 있다는 소식을 들었나요?" 먼저 A 질문에 대한 답변을 요청한 다음 질문 B에 대한 답변을 요청하거나, 먼저 질문 B에 대한 답변을 요청한 다음 질문 A에 대한 답변을 요청하거나, A와 B 질문을 동시에 질문한 후 답변을 요청하면 답변이 달라질 수 있습니다.
또한 부울 결합은 구성 요소 중 하나보다 더 대표적인 것으로 인식되어 인간의 추론을 바꿀 수 있습니다. 다음은 단순화된 예입니다.
Bob이 제로데이 취약점을 악용한 용의자로 확인되었다고 가정해 보겠습니다. 또한 이러한 취약점을 악용하는 일이 H라는 유명한 해킹 그룹의 구성원에 의해 자주 관찰되었다고 가정해 보겠습니다. 그렇다면 다음 중 어떤 시나리오가 더 가능성이 높아 보입니까?
1. Bob은 숙련된 해커입니다.
2. Bob은 숙련된 해커이자 그룹 H의 구성원입니다.
직관적으로 말하면 시나리오 2가 더 가능성이 높은 것으로 인식될 수 있습니다. 그러나 부울 논리와 고전적 확률 이론을 사용하면 두 사건이 함께 발생할 확률은 단일 사건의 확률보다 클 수 없습니다. 우리는 Tversky와 Kahneman이 확인한 결합 오류, 인지 편향 때문에 시나리오 2가 시나리오 1보다 가능성이 더 높다고 인식합니다. 이는 인간이 일반적으로 짧고 간결한 이야기보다 명시적인 세부 사항이 포함된 자세한 이야기를 믿는 경향이 더 크다는 것을 설명합니다. 피싱 공격자는 먼저 즉각적인 주의가 필요한 이벤트에 대한 명확하고 자세한 설명을 대상에게 제공한 다음 링크를 클릭하도록 요청함으로써 이러한 편견으로부터 큰 이익을 얻었습니다.
무의식적인 학습
Goyal과 Bengio2는 인간 AI를 달성하려면 시스템 1/암시적/무의식적 처리에서 시스템 2/명시적/의식적 처리로 이동해야 한다고 주장합니다. 시스템 1의 작동은 우리가 익숙한 동네에서 운전할 때와 유사하며, 우리는 빠르고 무의식적으로 운전할 수 있습니다. 시스템 2의 작동은 낯선 동네에서 운전할 때와 유사하며 천천히 주의를 기울여야 하며 상담도 필요할 수 있습니다.
Goyal과 Bengio의 제안은 "순차적 의식적 처리"를 요구하며 "어떤 수량에 대해 어떤 계산을 수행할지 순차적으로 선택하는 것에 대한 주의"를 고려합니다. 그러나 간단히 설명한 것처럼 고전적 확률은 순차 처리에 큰 한계가 있습니다. 모든 이벤트가 호환 가능하다고 가정하고 순서 효과를 고려하지 않습니다.
예를 들어, 과대적합(훈련 대상인 특정 데이터 세트에 너무 많은 주의를 기울이는 것)을 방지하기 위해 기계 학습 커뮤니티는 데이터를 섞어서 IID로 만듭니다. 하지만 현실은 데이터가 IID.2로 우리에게 도착하지 않는다는 것입니다.
"자연은 데이터를 섞지 않으며 우리도 그래서는 안 됩니다. 데이터를 섞을 때 우리는 수집한 데이터에 내재되어 있고 인과 구조에 대한 정보를 포함하는 분포 변화에 대한 유용한 정보를 파괴합니다."
추론과 추론을 위한 양자 확률
나는 고전적 추론과 추론을 사용하는 인지 아키텍처에 대한 실행 가능한 대안으로 양자 인지3를 추천합니다. 양자인지는 양자마음과 다릅니다. 이는 뇌에서 양자와 같은 일이 일어나고 있다는 가정을 따르지 않고, 양자 이론의 수학적 구조와 그 역학적 원리에서 영감을 얻습니다. 예를 들어, 물리학 없이 양자 역학의 확률 이론을 사용하여 인지를 모델링하는 양자 확률을 사용합니다.
다음 섹션에서는 인간-AI 소프트웨어 및 하드웨어에 적합하게 만드는 양자 확률의 기능 예를 보여줍니다.
비호환성 캡처
고전적인 확률과 달리 양자 확률은 모든 질문이 호환 가능하다고 가정하고 호환되지 않는 질문을 포착할 수 있습니다. 양자 확률은 각각 고전 확률의 샘플 공간 및 이벤트(즉, 샘플 공간의 하위 집합) 사용과 유사한 벡터 공간 및 부분 공간을 사용합니다. 벡터 공간에는 질문에 대해 가능한 모든 결과가 포함되어 있습니다. 질문 결과를 나타내는 벡터는 광선이라고 하는 1차원 부분공간에 걸쳐 있으며, 질문에 대해 사람이 갖는 신념 세트는 상태 벡터라고 하는 단위 길이 벡터로 표현됩니다. 양자 확률은 또한 투영이라는 매핑 프로세스를 사용하며 이벤트에 할당된 확률은 투영 길이의 제곱과 같습니다. 질문 결과의 결합을 계산하기 위해 양자 확률은 순차적 투영을 사용합니다. 이를 통해 주문을 구별할 수 있습니다. 즉, 프로젝트 A와 프로젝트 B의 결과는 프로젝트 B와 프로젝트 A와 다릅니다.
단순화된 예제 다시 살펴보기
여기서는 벡터 공간을 사용한 양자 확률이 어떻게 인간 추론의 결합 오류를 설명할 수 있는지 설명하기 위해 단순화된 예를 다시 살펴보겠습니다. 그림 1에서 파란색 화살표는 B의 "Bob은 숙련된 해커입니다"와 ~/B의 부정을 나타냅니다. 마찬가지로 주황색 화살표는 H로 "그룹 H의 구성원이 됨"을 나타내고 ~/H로 그 부정을 나타냅니다. 상태 벡터인 S는 Bob의 특성화에 대한 우리의 믿음 상태를 나타내며 검은색 화살표로 표시됩니다. 그림 1에서 투영 경로는 녹색과 빨간색 점선으로 표시됩니다.
확률은 상태 벡터를 해당 축에 투영한 길이의 제곱으로 계산되며 녹색 및 빨간색 정사각형 길이로 표시됩니다. B 광선에 대한 투영은 녹색 점선으로 표시되며, (B)의 확률은 녹색 정사각형 길이로 표시된 이 막대의 길이의 제곱과 같습니다. (B와 H)의 확률에 대해서는 두 개의 빨간색 점선으로 표시된 것처럼 두 단계를 따라야 합니다. 먼저 상태 벡터를 H 광선에 투영합니다. 둘째, 우리는 이 이전 투영을 B선에 투영합니다. 그런 다음 (B와 H)의 확률은 빨간색 제곱 길이로 표시된 마지막 투영의 제곱 길이입니다.
그림 1에서 (B와 H)의 순차적 확률은 단일 사건의 확률, 즉 (B)의 확률보다 크며, 이는 빨간색 사각형의 길이가 녹색 사각형의 길이보다 길다는 것을 나타냅니다. 이는 시나리오 2가 시나리오 1보다 가능성이 더 높다고 인식하게 만드는 결합 오류 때문입니다. 우리는 간섭으로 이어지는 (B와 H)의 비호환성을 대표성 휴리스틱(정신적 지름길)과 연관시킬 수 있습니다. 접속사는 그 구성 요소 중 하나보다 더 대표적인 것으로 보이며, H의 구성원이 되는 것이 Bob을 포함하는 범주로 생각하거나 검색하는 것이 더 쉬울 수 있습니다. 이 예에 대한 수학적 설명은 10.1109/MC.2023.3242056에서 제공되는 보충 자료를 참조하세요.
비호환성을 포착하는 양자 확률의 능력은 인간 AII의 인과 구조를 개발하는 데 중요한 역할을 할 수도 있습니다. 특히 다양한 소스에서 얻은 엄청난 양의 데이터로 복잡한 상황을 결합하여 호환되지 않는 사건을 처리할 때 더욱 그렇습니다. 이러한 상황에서는 데이터와 요소적 인과 관계 귀납의 기본 메커니즘, 즉 고전적 확률을 사용하여 단일 원인-결과 관계를 모델링하는 인과 구조 모델이 필요합니다. 이러한 복잡한 상황에서 양자 확률은 호환되지 않는 이벤트를 처리하고, 표본 공간을 붙여넣고, 벡터 공간을 형성함으로써 구조적으로 국소적인 인과 추론의 아이디어를 공식화하는 방법을 제공할 수 있습니다.
예를 들어, 예측 판단을 내려야 한다고 가정해 보겠습니다. 즉, 데이터 도착 순서가 중요한 대량의 데이터가 포함된 복잡한 문제에서 원인에 따른 효과의 조건부 확률 또는 P(효과|원인)를 찾아야 한다고 가정해 보겠습니다. 양자 확률을 사용하면 다음과 같은 쿼리에 응답하여 문제를 더 작은 문제로 나눌 수 있습니다.
P(결과|원인1, 대체 원인 없음), P(결과|원인1, 원인2), P(결과|원인2, 원인1) 등
인메모리 컴퓨팅을 위한 양자 확률
양자 확률은 컴퓨팅 프레임워크 VSA(벡터 기호 아키텍처)와 유사한 벡터 공간을 사용합니다. 이는 초차원 컴퓨팅이라고도 알려져 있으며, 이는 인메모리 컴퓨팅(IMC)과 같은 신흥 하드웨어의 핵심입니다. 기존 폰 노이만 아키텍처에서는 메모리와 프로세서가 분리되어 있으며 계산을 위해서는 데이터를 앞뒤로 이동해야 합니다. 그러나 "벡터 행렬 곱셈"을 사용하는 IMC 아키텍처에서는4 메모리와 프로세서가 융합되어 최소한의 데이터 이동으로 데이터가 저장되는 곳에서 계산이 수행됩니다. 따라서 IMC는 기존 폰 노이만 아키텍처와 달리 인간의 두뇌와 유사합니다. 계산이 함께 배치됩니다. 인간의 두뇌에서 ALU에 해당하는 부분을 찾는 것은 비현실적인 기대입니다.
양자 확률과 IMC는 모두 VSA를 사용하므로 인간 AII에 대한 유망한 계산 아키텍처로 간주될 수 있습니다. 따라서 IMC의 인지 아키텍처로서 양자 확률을 고려하는 것이 합리적입니다.
여기에 예가 있습니다. 인간 두뇌의 작업 기억은 현재 작업과 관련된 정보를 임시로 저장하는 메커니즘입니다. 이는 주의력, 추론, 학습과 같은 인지 능력에 매우 중요합니다. 따라서 대부분의 인지 아키텍처는 이를 어떤 형태로든 구현합니다. 양자 인지를 통해 우리는 고차원 벡터를 사용하여 작업 메모리의 기능을 나타내고 진행 중인 계산에서 관련 데이터를 처리할 수 있습니다. 양자 확률의 상태 벡터는 특징 패턴에 대한 인간의 믿음을 나타내고 현재 세계 모델, 시스템 상태 및/또는 현재 목표에 대한 캐시 역할을 하는 작업 메모리 상태로 간주될 수 있습니다. 양자 확률은 IMC를 위한 강력한 수학적 기반을 구축하고 " 컴퓨팅에 사용할 수 있는 초차원 패턴에 대한 연산입니다." 패턴을 벡터로 봄으로써 우리는 "벡터, 행렬, 선형 대수학 및 그 이상에 대한 방대한 지식을 활용할 수 있습니다. 이는 실제로 인공 신경망 연구의 전통이었지만 고차원 표현의 풍부한 영역이 여전히 탐구되어야 합니다." 항상 부울 논리를 따르는 구조를 사용하여 항상 활용도를 극대화하는 에이전트는 기존 AI컴퓨팅 아키텍처의 기본입니다. 그러나 나는 아인슈타인의 상대성이론, 괴델의 불완전성 정리, 사이먼의 제한된 합리성 이론에서 배울 필요가 있다고 주장한다.
이 글에서는 기존 AI 시스템의 몇 가지 계산적 한계를 제시했습니다. 나는 고전적인 확률의 공리와는 달리 사건의 논리가 반드시 불리언일 필요는 없다고 설명했습니다. 두 이벤트 A와 B가 호환되지 않으면 학습이 이루어집니다. 따라서 대부분의 인지 아키텍처는 이를 어떤 형태로든 구현합니다. 양자 인지를 통해 우리는 고차원 벡터를 사용하여 작업 메모리의 기능을 나타내고 진행 중인 계산에서 관련 데이터를 처리할 수 있습니다. 양자 확률의 상태 벡터는 특징 패턴에 대한 인간의 믿음을 나타내고 현재 세계 모델, 시스템 상태 및/또는 현재 목표에 대한 캐시 역할을 하는 작업 메모리 상태로 간주될 수 있습니다.
양자 확률은 IMC를 위한 강력한 수학적 기반을 구축하고 "컴퓨팅에 사용할 수 있는 초차원 패턴에 대한 작업"을 구성합니다. 패턴을 벡터로 보면 다음이 가능합니다.
"벡터, 행렬, 선형 대수학 및 그 이상에 대한 방대한 지식을 활용하세요. 이는 실제로 인공 신경망 연구의 전통이었지만 고차원 표현의 풍부한 영역이 아직 탐구되어야 합니다."
항상 부울 논리를 따르는 구조를 사용하여 항상 활용도를 극대화하는 에이전트는 기존 AI의 기본입니다. 이벤트 A와 B의 결합은 통근하지 않기 때문에 정의할 수 없습니다. 이는 이벤트가 항상 통근하는 부울 논리와 뚜렷한 대조를 이룹니다. .
나는 양자 확률에 대한 권장 사항을 제시하고 투영 연산자의 부울이 아닌 구조에 대한 측정값으로 양자 상태를 고려하는 방법을 설명했습니다. 양자 상태와 고전적 확률 상태를 비교하기 위해 고전적 확률과 유사한 실험을 설명하기 위해 투영을 사용할 수 있는 방법을 설명했습니다. 나는 인과 구조 모델(원소 인과 유도와 비교)이 순차적 의식 처리를 포착하는 데 어떻게 도움이 될 수 있는지 설명했습니다. 또한 양자 확률의 벡터 공간 사용이 어떻게 IMC 아키텍처에 적합한 인지 아키텍처가 되는지 설명했습니다.
인간 AII를 달성하고 "학습하고 생성하는 생각하는 기계"6를 개발하려면 마찬가지로 작동할 수 있는 계산 모델이 필요합니다. 그러나 인간의 사고, 학습 및 창조는 맥락과 순서에 크게 의존하는 경우가 많으며 이는 고전적인 확률 및 효용 극대화 모델에 당황스러워 보입니다.
승인
이 자료는 Award 2041788에 따라 National ScienceFoundation에서 지원한 작업을 기반으로 합니다. 단순화된 시험과 재방문에 대한 간단한 수학적 설명은 10.1109/MC.2023.3242056에서 제공되는 보충 자료에서 찾을 수 있습니다.
참고자료
1. A. Tversky 및 D. Kahneman, "확장적 추론 대 직관적 추론: 결합 오류 가능성 판단", Psychol. Rev.,vol. 90, 아니. 4, pp. 293–315, 1983년 10월,doi: 10.1037/0033-295X.90.4.293.
2. A. Goyal 및 Y. Bengio, "더 높은 수준의 인지에 대한 딥러닝을 위한 귀납적 편향", Proc. 로이. Soc. A, 권. 478, 아니. 2266, 2022년 10월, 예술. 아니요. 20210068,doi: 10.1098/rspa.2021.0068.
3. JR Busemeyer 및 P. Bruza, 인지 및 결정의 양자 모델.Cambridge, 영국: Cambridge Univ.Press, 2014.
4. S. Spetalnick 및 A. Raychowdhury, "SRAM을 사용한 메모리 내 컴퓨팅의 실용적인 설계 공간 분석", IEEE Trans. 회로 시스템 나,레지. 논문, vol. 69, 아니. 4, pp. 1466–1479, 2022년 4월, doi: 10.1109/TCSI.2021.3138057.
5. P. Kanerva, "초차원 컴퓨팅: 고차원 랜덤 벡터를 사용한 분산 표현 컴퓨팅 소개", Cogn. 컴퓨터., vol. 1, pp.139–159, 2009년 6월, doi: 10.1007/s12559-009-9009-8.
6. H. Simon 및 A. Newell, "휴리스틱 문제 해결: 차세대 운영 운영 연구", Oper. Res., vol. 6, 아니. 1, pp. 1–10, 1월/2월 1958. [온라인].사용 가능:https (영문) https ://www.jstor.org/stable/167397
For more information:1950477648nn@gmail.com
