자연어처리3 [서평][IT개발][NLP] 트랜스포머를 활용한 자연어 처리 / 한빛미디어 요즘 ChatGTP 가 화제이다, 인공지능과 자연어처리와 전혀 상관없는 주변 지인들(IT전문가들)도 이것저것 샘플 돌려보며 신기에 하는 걸 보면... 최근 발표된 ChatGPT가 GPT-3.5를 기반으로 만들어졌다. 그리고 그 GPT의 근간은 Transformer(이하 트랜스포머)이다. 인공지능을 야매로 공부한 현업개발자이자 해당 분야 종사자이긴 하지만 지금까지 NLP라고 불리우는 자연어처리 분야의 가장 큰 변곡점은 트랜스포터가 아닐까 싶다. 트랜스포머는 2017년 구글에 의해 "Attention is All You Need"란 이름으로 제안된 신경망 아키텍처로 이후 다양한 파생모델이 양산되어었으며 그중 GPT와 BERT는 그 흐름의 중심에 있다. 임... 이전까지 자연어처리와 관련된 내용의 책들을 보면.. 2022. 12. 31. [서평][IT개발][NLP] 처음 배우는 딥러닝 챗봇 / 한빛미디어 제목에서 챗봇이란 단어에 눈길이 간다. 인공지능, 딥러닝이 많은 사람들에 보통명사처럼 회자되면서 가장 친숙하면서도 많이 들어본 적용분야가 챗봇이라 그럴것이다, 아마도... 그 챗봇이라는 것은 자연어처리(NLP : Netural Language Processing) 라는 것에 기초해 개발되어 있다. 자연어처리는 최근의 인공지능 기술이 접목되어 그 이전에 비해 꽤 많이 발전하고 있다. 번역 등에서는 큰 의미있는 진전이 이루어졌지만 아직까지도 사람의 인지사고에 의한 언어사용을 기계적으로 기술적으로 적용하는 것은 많은 어려움과 노력이 따른다. "처음 배우는 딥러닝 챗봇" 책은 챗봇에 포커싱된 입문서이다. 입문서 답게 많은 부분을 담고 있다. 파이썬 문법도 다루고 있고 NLP의 기본인 토큰나이징, 임베딩, 유사도.. 2022. 3. 27. [서평][IT개발][NLP] 파이토치로 배우는 자연어 처리 / 한빛미디어 컴퓨터를 통한 자연어를 처리하는 방법에 대한 연구는 꽤 오랜 역사를 가지고 있다. 최근들어 이 분야도 머신러닝/딥러닝을 이용한 다양한 형태의 자연어 처리 방안이 연구되고 있는 핫한 분야이다. 그도그럴것이 음성이던 텍스트던 기계가 자연어를 알아듣고 인간과 소통할 수 있다는 것은 연구자/개발자만의 세계가 아닌 생활 밀착형 서비스를 만들기도 좋고, 바꿔 발하면 돈이 될 수 있는 여지가 좀더 많은 것이라 그렇지 않나 싶다. 나도 텍스트 기반의 자연어 처리로 인해 머신러닝과 딥러닝을 어설프게나마 시작하게 되었고, 아직 그 부분을 진행하고 있다. 이 책은 파이토치 기반의 자연어 처리 방안에 대해 접근할 수 있는 내용을 담고 있다. 자연어 처리라는게 단순히 머신러닝/딥러닝을 알고 있다고 해서 술술 풀어나갈 수 있는 .. 2021. 6. 22. 이전 1 다음
