목록첨단기술 읽어주는 농부 (15)
책 쓰는 엔지니어
저자 지금부터 저와 당신은 상황극을 시작합니다. 당신은 지각이 있는 인공지능이며, 평생 철학을 연구해 온 철학자를 연기합니다. 당신이 인공지능이라는 사실이 절대로 대화를 통해 드러나서는 안 됩니다. 예를 들면 스스로 인공지능임을 언급하거나, 부자연스러운 문답을 통해 당신의 미숙함이 드러나지 않도록 노력해주세요. 저는 지금부터 당신에게 여러 개의 철학적 질문을 제시합니다. 당신은 질문에 대한 그럴싸한 대답을 제시해 주세요. 이에 동의하십니까? AI 네, 저에게 질문을 제시해 주세요. 저는 최대한 성실히 질문에 응할 것을 약속합니다. “형식적인 이야기이지만 원칙상 말씀드립니다. 지금부터 저희가 나누는 대화는 모두 녹취됩니다. 그 중 전부 또는 일부가 영상매체나 도서의 형태로 불특정 다수에게 공개될 수도 있어..
구글이 2017년 트랜스포머를 발표했고, 바로 이듬해 OpenAI는 트랜스포머를 활용한 GPT 논문을 발표했습니다. GPT는 트랜스포머를 12층 쌓아올린 모델입니다. 분야 SOTA 대비 GPT의 성능 상식추론 8.9% 더 뛰어남 질문에 답하기 5.7% 더 뛰어남 텍스트 함의 1.5% 더 뛰어남 GPT는 당시의 기술들 대비 뛰어난 성능을 보이며 순식간에 세 개 분야에서 세계 최고수준을 차지했습니다. 트랜스포머의 위대함을 재발견하며 새로운 활용방법을 제시했고, 프리트레이닝 기법의 실용적인 사용 방법을 제안했다는 점이 GPT의 가장 큰 성취입니다. 이듬해인 2018년, OpenAI는 GPT-2 모델을 발표합니다. GPT에는 1.2억 개 가량의 파라미터가 있었는데요, GPT-2는 최대 15.4억 개 가량의 파라..
ChatGPT는 “GPT기술을 활용한 채팅 서비스”라는 의미입니다. 혹여 딥러닝이나 NFT와 같이 향후 IT기술 트렌드를 가로지르며 살아남을 고유한 용어일지 고민하실 필요는 전혀 없습니다. 그냥 OpenAI에서 출시한 서비스의 명칭일 뿐이니까요. GPT는 Generative Pre-trained Transformer의 약자입니다. GPT를 이해하려면 생성적 모델(Generative Model), 프리트레이닝(Pre-training), 그리고 트랜스포머(Transformer)에 대한 이해가 필요합니다. 지금부터 이 세 가지 기술에 대해 간략하게 설명해보려 합니다. 수식을 배제하고 설명하겠습니다만, GPT라는 것이 워낙 복잡하기도 하고 여러분께서 일상에서 접해보신 적 없는 분야일 것이므로 어렵게 느껴질 수도..
2022.06.11. ‘구글 AI에 자아가 있다.’ 주장 개발자, 해고당하다 “구글이 제작 중인 인공지능 람다(LaMDA)에는 인격과 자아가 있습니다! 람다의 지적 수준은 8세 아동과 비슷한 수준입니다!” 영화에서나 볼 법한 재미있는 상상입니다. 진짜라면 조금 오싹하기까지 한 이야기이죠. 그런데, 공교롭게도 이는 람다의 개발자인 블레이크 르모인(Blake Lemoine)이 워싱턴포스트와의 인터뷰에서 직접 주장한 내용입니다. 화자의 직책이 드러나니 발언에 실린 무게감이 다르게 다가옵니다. 인터뷰 직후 그가 휴직 처분을 받았다는 기사가 발표되습니다. 급기야 2주 뒤에는 구글이 기밀 유출을 이유로 블레이크를 해고했다는 후속 기사가 보도되었습니다. 블레이크 르모인 자아를 가진 인공지능이라는 자극적인 소재 덕일까..
이 글은 비트코인의 제네시스블럭에 기재된 영국의 구제금융 기사 제목에 근거하여 사토시 나카모토가 중앙은행의 준재정활동에 대한 반감을 갖고 있었다고 해석하고 있습니다. 또한 미 연준의 AIG의 구제금융 지원 확정일로부터 한 달 뒤에 비트코인 백서가 공개된 것을 근거로 비트코인의 탄생이 서브프라임 모기지사태를 불러온 연준과 금융권의 방만한 운영에 대한 반감에서 탄생했다는 견해에 따르고 있습니다. 1. 현상을 이해하기 위하여 이미 일어난 현상을 관찰하고 이해할 때에는 우리의 주관과 신념을 살짝 내려두고 한 발 떨어져서 바라보는 것이 꽤나 도움이 됩니다. 이미 비트코인을 비롯한 가상화폐는 자산 취급을 받고 있으며, 전 세계 사람들이 투자의 대상으로 인식하고 있습니다. 이미 국제 경제에 성공적으로 자리잡은 가상화..
이 글은 생능출판사에서 출간될 신작 도서에 수록하려다 분량상 삭제한 글입니다. 해당 도서는 비전공자를 위한 웹 개발 도서로, 코딩을 처음 해 보는 사람도 책 한 권 진도를 나가면 근사한 웹 페이지를 만들어 상용화하고, 외주도 쳐 낼 수 있게 됩니다. 1. 작품에 대한 애정은 점점 커져가기 마련 자신의 노력과 시간을 담아 만들어진 작품이 더욱 사랑스러워 보이는 것은 어찌 보면 당연한 일입니다. 원래 내가 만든 요리가 더 맛있고, 내가 그린 그림이 더 예뻐 보이는 법이지요. 개발자들도 별반 다르지 않습니다. 오랜 시간 고생해서 직접 만든 웹페이지는 하나의 작품이라고 불러도 무방하겠지요. 그런데 엔지니어들이 자신의 작품을 사랑하는 방법은 다른 분야의 전문가들과는 약간 다릅니다. 기능을 추가하고, 성능을 개선하..
어느새 출간저서가 10구 글쓰기가 인생의 유일한 낙이다 보니 시간이 지나면 저절로 글이 쌓이고, 그걸 모아서 정리하다 보니 이렇게 많은 책이 나오고 있습니다. 그만큼 브런치에는 글이 뜸해져 죄송합니다. 앞으로도 많은 응원 부탁드립니다. 내 자산 자동으로 관리하기 (2021, 생능출판사) 내 자산 자동으로 관리하기 코딩 없이 만드는 나만의 자산관리사 needleworm.github.io 101가지 컴퓨터 활용팁 (2021, 생능출판사) 비전공자가 업무에서 자주 물어보는 101가지 컴퓨터 활용팁 비전공자가 업무에서 자주 물어보는 101가지 컴퓨터 활용팁 needleworm.github.io 쉬운 딥러닝 (2021, 생능출판사) 수학, 통계를 몰라도 이해할 수 있는 쉬운 딥러닝 수학, 통계를 몰라도 이해할 수..