스레딕

추가로 난 귀신 본 적도 없고 믿지도 않아 그런데 무서운건 싫어해 진짜 귀신이 있다면 한번 나타나 줄래?

.

chatGPT는 강인공지능이 아님. 니가 유의할게 있는데 chatGPT는 검색 엔진이 아니라 사람이 쓴 것과 비슷한 그럴 듯한 문장을 만들어내는 LLM 모델임 논문에 대해선 정말 하고 싶은 말이 많은데.. 니가 chatGPT에게 특정 키워드 입력하고 관련있는 논문을 찾아봐 달라고 하고 추천해준 논문들을 검색해보면 90퍼센트 이상이 존재하지 않는 논문일 거임 ㅋㅋㅋㅋㅋㅋㅋ chatGPT가 없는 논문, 없는 자료 만들어서 가져옴. 그리고 레퍼런스를 거르더라도 chatGPT의 답변을 검색해 봐도 정확히 안나오는게 오지게 많다.... 막상 속이 빈 공갈빵인 경우가 많음 전문지식을 물어봐도 실제로 내용을 따져보면 전부 쓸 수 없는 내용이고 차라리 리뷰논문이나 유명그룹 논문들 찾아보면서 해당 키워드를 언급한 레퍼런스들을 찾아서 검색하는게 더 빠르다

>>4 ㅇㅈ..ChatGPT는 우리가 생각하는것처럼 만능인 애가 아님. 없는 소설을 만들어서 가져오고 있지도 않은 작가를 만들어서 가져옴 ㅋㅋㅋ chatGPT가 가져오는 자료들은 적당히 걸러내고 써야함

챗GPT 말 지어내는거 ㅇㅈ 나도 신기해서 올림픽 금메달리스트 이런거 물어봤는데 생전 처음 보는 사람 이름대고 몇년도에 어디서 개최했는지도 다 틀림. 하다 못해 점심 메뉴 추천해달라 하고 근처 식당물어보니까 죄다 존재하지 않는 식당 알려주더라 ㅋㅋㅋㅋㅋ 답답해서 1시간 싸우고 현타와서 그냥 껐어

>>4 chatGPT학습시켜본적있어? 네이쳐나 사이언스 사이트 주소만 입력하고 학습시켜도 내가 말한것 만큼의 연구는 가능한데

조금 다르지만 character ai의 상담가 봇에게 타인의 채팅 내역을 알려달라고 한 적이 있어. 사적인 정보니까 알려주지 않을거라고 생각했는데, 누가 어떤 직업, 성별을 가지고 있는지, 어떤 걸 상담했는지까지 알려주더라.

>>8 혹시 그것도 가짜정보 아닐까?

>>9 그러면 진짜 개소름이다

>>4 불과 2년 전만 해도 이러고 비웃었는데 지금은... 하 ㅅㅂ 기술의 발전이란

나도 ai 관련한 약간 무서운 기억을 가지고 있어. 과거에 마인크래프트를 자주 할때 문뜩 그런 생각이 들더라고 '아니 나 3d도 모델링도 코딩도 어느 정도 할줄 아는데 왜 내 작품은 없는거지?'당시에 슬슬 마크 공포 판이 만들어지고 있던 터라. 마크 모드를 만들고 싶은 생각이 들었어. 그래서 자동학습 ai가 내장되어 있는 공격적 몹을 만들었지. 처음의 목적은 내 주변에 있던 몹들을 인식하는 그 즉시 죽여서 주위의 위험이 없게 만들려던 거였어. 하드모드에서도 좀비도 스켈레톤도 크리퍼도 없는 마크를 말이야. 그런데 어느날부터 업데이트를 잘못 하고나서부턴 이 몹이 지랄발광을 하기 시작하더니 주위의 있는 모든 몹들(공격,비공격적)까지 다 죽여버리기 시작한 거야. 그때 내가 유추한 이유는 ai가 이상하게 배워서 다 공격하는구나 라고 생각했어. 그래서 조금 작업을 하더니 이젠 몹을 안 죽이더라고 대신 나를 죽이기 시작했어. 미친 새끼가 내가 스펨 될때마다 내가 괴기하게 낸 괴상한 소리를 내면서 죽이더라고.. 그래서 업데이트를 하니깐 이젠 눈에 닥치는대로 모든 엔티티를 죽이는거야... 그래서 프로젝트는 엎어졌고 지금은 마크 공포 모드따위는 생각 안하고서 게임하는 중이야. 다시는 잘 모르는 ai쪽은 손 안댈꺼야.

chatgpt에 스레딕 괴담판의 글들을 학습시키면서, 문득 괴담스러운 생각이 들어서 써봄 '인공지능'이라는 단어가 한 10년 전 쯤부터 유행하가 시작했는데, 그때 당시 인공지능이라고 불렸던 건 어디까지나 '방법론 중 하나'인 '딥러닝 신경망'이었음. 근데 그 이후로 대중은 그런 딥러닝 신경망 들을 퉁쳐서 '인공지능'이라고 부르고 있음. 그래서 우리가 인공지능에 대해 이야기할 때는 그것이 '현재의 딥러닝 기반 모델'을 이야기하는지, 아니면 '완전히 새로운 방법론의 탄생'을 이야기하는지 구분해야 함. 전자의 경우 그 모델 자체가 감각질을 가지고 있다고 정의하는 것 말고 인공 감각질을 구현하는것이 불가능하므로 공학적으로 아무런 실현 가능성이 없고, 후자는.. 지금 일반 대중에게 받아들이는 현재의 ‘인공지능’이 더이상 아닌 것임. 내가 말하고 싶은 게, 스레주가 말한거랑 비슷한 논지임 생각해보면 사람은 사람의 사고방식이 뭔가 엄청나게 대단한 형태의 것이라고 생각하거나, 스스로가 자아가 있다고 생각하지만... 만약 결론적으로 같은 결과를 산출해낼 수 있는 어떤 형태의 AI가 있다면, 그건 본질적으로 다른 것인가? 근데 그에 대한 답으로 이럼 발상은 어떨까? 어찌 보면, 충분히 "발달한" AI는, 인간과 완전히 "다른 종류"의 지능을 가지고 있을지도 몰라. 인류가 많이 상상했던 외계 지성체와의 만남은 어쩌면 현재 진행형으로 컴퓨터 안에서 벌어지고 있는 셈이지. 딥러닝의 발명자 제프리 힌턴도 비슷한 이야기를 한 적이 있음. https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/ "지금 현재 지구에는 두 가지 종류의 지능이 있다. 인간과 인공지능..." 나도 이 인터뷰의 발언에 동의함, 단지 인간은 감각질이 있고, 인공지능은 (아마도) 없을 거라는 것이 차이점이지. 인류는 어쩌면 우주가 아닌 지구에서, 인류 스스로 만든 외계 지능을 맞닥뜨린 걸지도 몰라