안녕하세요, 크리피플!

오늘은 최근의 AI트렌드에 대해 소개하고자 합니다.

최근 AI시장에서 큰 변화는 생성형 AI가 부상했다는 거예요.

특히 텍스트와 이미지 생성에서부터 계산에 이르기까지

모든 것에 변환기(신경망의 한 종류)를 사용하는 것이죠.

생성형 AI는 작년엔 뒷전이었지만 이제는 확실히 가장 주목받는 AI분야가 됐어요.

생성형 AI

(Generative AI)


생성형 AI의 역사

생성형 AI는 수요에 따라 출력을 생성하는 AI를 말해요.

이는 새로운 개념이 아니죠. 1960년대의 유명한 ELIZA 챗봇은

사용자가 질문을 입력하면 시뮬레이션된 치료사가 대답하는 것처럼 만들었지만

챗봇의 새로운 것 같은 답변은 실제로는 규칙 기반 조회 테이블에

기반한 것이었어요.

Transformer와 Attention mechanisms의 등장

2017년, 구글의 또 다른 그룹은 텍스트 번역 성능을 향상시키기 위해

유명한 “주목이 전부입니다(Attention Is All You Need)”라는 트랜스포머 논문을

발표했어요.

여기서 Attention은 텍스트 내 단어의 위치에 기반한 맥락을 제공하는

메커니즘을 말해요.

이는 언어마다 달라지는데, 연구자들은 최고 성능 모델은 모두 이러한

Attention mechanisms을 가지고 있음을 발견하고

텍스트에서 패턴을 이해하는 다른 수단을 제거하고

Attention에만 의존하자고 제안했어요.

성능과 훈련 효율성에 대한 최종적인 영향은 엄청났어요.

이전의 자연어 처리 방법이 단어별로 텍스트 문자열을 처리했던 것과 달리

트랜스포머는 한 번에 전체 문자열을 분석할 수 있어요.

이를 통해 트랜스포머 모델을 병렬로 훈련시킬 수 있게 되어

ChatGPT, GitHub Copilot, 그리고 최근에 새롭게 부활한 Microsoft의 Bing처럼

매우 큰 모델인 생성형 사전 훈련 트랜스포머(GPTs)를 가능하게 했어요.

이 모델들은 매우 큰 규모의 인간 언어 컬렉션에 기반해 훈련되었고

대규모 언어 모델(LLMs)로 알려져 있어요.

잠재 확산 기법의 부상

트랜스포머가 컴퓨터 비전 응용 프로그램에서 효과적이긴 하지만

지금은 ‘잠재(또는 안정된) 확산‘이라고 불리는 방법이 부상했죠.

대표적으로 스타트업 Stability와 Midjourney의 제품을 통해 가장 놀라운 고해상도 이미지를 생성하고 있고, 그 뒤를 이은 후발주자들도 굉장히 많아졌어요.

올해 4 가지 트렌드

-생성형 AI 인프라

OpenAI는 지난해 ChatGPT 출시로, 그리고 올해 GPT-4 출시로

큰 화제를 모았어요.

하지만 규모 확장과 인간 피드백을 통한 강화 학습( RLHF)이라는 기술에

대한 큰 베팅은 LLM이 나아가는 많은 방향 중 하나일 뿐이에요.

Anthropic와 챗봇 Claude는 강화 학습 헌법형 AI(RL-CAI)라는 다른 접근 방식을

사용해요.

CAI 부분은 출력물에서의 남용과 환각을 제한하기 위해 설계된 일련의 인간 친화적 원칙을 코딩해요.

한편, DeepMind의 Mustafa Suleyman과 Greylock의 Reid Hoffman이 설립한

스타트업 Inflection은 소비자 애플리케이션에 초점을 맞추고 있어요.

-예측 인프라

AI를 통해 다양한 형태를 예측하는 범주이고, 이를 예측 인프라라고 불러요.

이러한 인프라 회사 중 가장 큰 회사들은 기업 AI 애플리케이션에 필요한

대량의 데이터를 모든 종류의 데이터 파이프라인을 용이하게 하는 형식으로

호스팅해요.

Databricks는 AI/ML 데이터 팀의 필요에 특별히 설계되어 있어서

이 분야의 주목할 만한 기존 회사인 Snowflake와 차별화되었어요.

-생성형 AI 애플리케이션

MidjourneyStable Diffusion은 소셜 미디어에서의 바이럴 효과로 인해

생성형 AI를 대중 문화의 중심에 침투시켰어요.

그 후 ChatGPT는 세계의 주목을 받아 가장 빠르게 1억 명의 사용자를 달성한 서비스가 되었죠.

Google은 Bard 챗봇으로 따라잡으려 했고, Neeva는 첫 번째 생성형 AI 기반 검색 엔진이 되었어요.

-예측형 AI 애플리케이션

AI의 예측 능력을 활용하는 또 다른 유용한 방법은 이상을 탐지한

다음 이를 완화할 방법을 찾는 것이에요.

예를 들어, Abnormal Security는 회사의 클라우드 이메일 환경을 분석하여

피싱 시도와 기타 위협을 식별하고 악성 이메일을 제거해요.

의료 분야에서는 Viz.ai가 전문가가 검토해야 할 환자 영상을 빠르게 찾아내고

뇌졸중 및 기타 시간에 민감한 상태의 환자들을 위한 결과를 개선하기 위해

치료 팀을 조정하는 방법으로 활용중이죠.

AI의 시대에서

2024년에는 생성형 AI와 LLM이 여전히 지배적일 거라고 믿어요.

하지만 환경은 빠르게 변하고 있고 변화와 함께 이동할 수 있는 회사들에게는

큰 기회가 있어요.

올해에 주목해야 할 사항

1.LLM 활용 방법은 점점 성숙하고 발전할 것

일부 회사들은 클라우드 API에서 AI 모델을 구매하는 것을 강하게 선호할 것이고, 다른 회사들은 열정적으로 자신만의 것을 구축하고자 할 거예요.

많은 이들이 스타트업이 API에서 자신들만의 더 작고, 더 효율적인 모델로

활용할 것이라고 예측했어요.

대규모이며 독특한 데이터 저장소를 가진 회사들은 자신들의 모델을 훈련시키는 것이 해자로서 분명한 이점을 볼 거예요.

2.멀리보고 변화를 활용하는 능력

빠르지만 멀리 보는 이들이 이 AI의 파도가 방대한 사회적 변화를 일으키면서 살아남을 거예요.

적응하고, 전환하며, 예상치 못한 기회를 활용하는 능력이 핵심이 될 거예요.

이 기술은 일하는 방식을 변형시킬 엄청난 잠재력을 가지고 있기 때문에

유일한 상수는 변화일 거예요.

생성형 AI는 많은 가정을 뒤집어 놓았어요.

초기에는 AI가 수동 노동을 대체할 것이라고 생각했지만

로보틱스는 인지 지식 작업의 일부보다 더 어려운 것으로 밝혀졌어요.

그리고 마찬가지로 놀라운 것은,

생성 모델의 대략적인 성격이 창의적인 작업에서 예상보다 나은 성능을 발휘하고,기계적인 작업에서는 완전히 신뢰할 수 없게 만든다는 거예요.


오늘도 긴 글 읽어주셔서 감사하고

다음에 더 좋은 정보로 찾아오겠습니다.

Previous articleAI 기술의 글로벌 확산과 산업계의 변화(월드투어 NYC, CES 2024)
Next article챗GPT써보고 생각이 변했다는 빌게이츠(샘알트만과 빌게이츠의 대담)

This site uses Akismet to reduce spam. Learn how your comment data is processed.