https://youtu.be/IvUw9um4Bv8
유익하고 효율적인 영상.
#신경망 방식 급부상. #딥러닝 #역전파 조정 기술.
학습 이후 활용시 전력 효율 문제.
일관성과 개성을 갖춘 모델들이 나올 가능성. 초지능으로의 도약을 대비하는 문제.
자율무기 연구에 대한 우려.
어떻게 나쁜 짓을 막을 수 있는가. 그것은 지능 문제인가 지능 밖 문제인가.
——
신경망 방식의 Pre Training 기법이 역전파라는 미적분 활용 기술로 갑자기 좋아졌다는 배경으로 이해했음. 이처럼 뇌를 흉내내는 모델 성능을 좋게 만드는 새로운 팁들이 더 나올 수 있고 심지어는 AI가 스스로 아이디어를 낼지도 모름.
그리고 현재의 ChatGPT 만물박사같은 둥글둥글한 모델이 아니라 특화시킨 모델을 만들 수 있는데, 좀더 일관성을 부여한 저전력 경량화 모델 챗봇이 나온다면 더욱 인격에 가까워지는 느낌일 듯.
예를 들면 ‘경전’에 우선순위를 두어 학습시키고 그 주제로 대화하는 패턴이 일상이 되면 늘 곁에 두는 종교 선생님이나 사상가 선배님이 되는 거임. 이성 캐릭터를 덧씌우고 플러팅하거나 가스라이팅하는 건 이미 벌어지던 일이고.
ChatGPT 와 Bing 이라는 첫 체험 챗봇은 무색무취한 입문 버전이었고, 곧 인격에 가깝게 저전력 경량화한 버전들이 전용 모바일 장비에 이식되어 등장할 것. 테슬라봇에 넣으면 반려 로봇이 되고, AR 기기에 넣으면 #코타나 가 된다.
사용과 학습을 통해 이들을 조건화하며 개인화할 수도 있겠지만, 반대로 사용자 두뇌에 반려 지능에 대한 신경연결 영역이 생기며 애착 대상이 되고. 서로를 길들이는 파트너 관계가 될 수 있음.
자 그럼 예를들어, 지능을 갖춘 테슬라봇에게 사적 복수나 청부 살인을 도와달라고 요청할 의지를 가진 사용자 빈도는 얼마나 될까. 여기서 실수로 민간인을 살상할 수 있는 자율 드론 무기 또는 군인까지의 거리는 얼마나 남았을까.
로봇 3원칙 챗봇 버전에 해당하는 논의나 시스템의 개입을 곧 구경할 수 있겠군. 아니면 은하 제국이나 파운데이션 형성을 돕는 초지능 인공두뇌를 목격하거나.