tag:blogger.com,1999:blog-6029100972813152037.post2519313704915732718..comments2024-03-29T19:47:58.132+09:00Comments on Jaejun Yoo's Playground: 초짜 대학원생의 입장에서 이해하는 Support Vector Machine (1)Jaejun Yoohttp://www.blogger.com/profile/10226095526284477166noreply@blogger.comBlogger21125tag:blogger.com,1999:blog-6029100972813152037.post-64236004421187803282021-10-21T23:11:03.693+09:002021-10-21T23:11:03.693+09:00좋은 글 감사합니다. 덕분에 많은 도움이 되었습니다.좋은 글 감사합니다. 덕분에 많은 도움이 되었습니다.Anonymoushttps://www.blogger.com/profile/02544714538930779271noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-29438079833322522912020-09-20T13:21:38.038+09:002020-09-20T13:21:38.038+09:00alpha 값을 구하는 방법 가운데 cross validation을 통해 구하는 방법이 있...alpha 값을 구하는 방법 가운데 cross validation을 통해 구하는 방법이 있습니다.Anonymousnoreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-75134522563537285022020-09-04T05:29:39.916+09:002020-09-04T05:29:39.916+09:00많은 도움이 되었습니다. 정말 감사합니다!많은 도움이 되었습니다. 정말 감사합니다!Anonymoushttps://www.blogger.com/profile/02188867273693451182noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-81402273315807625262020-06-22T17:47:49.616+09:002020-06-22T17:47:49.616+09:00안녕하세요! 덕분에 SVM 과 조금 더 친해졌습니다. 그런데 혹시 식 2, 3, 5 에서 ...안녕하세요! 덕분에 SVM 과 조금 더 친해졌습니다. 그런데 혹시 식 2, 3, 5 에서 \omega 가 \omega^T 로 바뀌어야하는 것이 아닌가요?Anonymoushttps://www.blogger.com/profile/04389383798990667891noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-45014574259340212292020-06-05T08:20:08.471+09:002020-06-05T08:20:08.471+09:00좋은 글 너무 감사합니다!좋은 글 너무 감사합니다!k2m5t2https://www.blogger.com/profile/17545547720004926380noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-43541761660239663422020-03-28T21:43:00.420+09:002020-03-28T21:43:00.420+09:00Unknown님 감사합니다 :) 도움이 되셨다면 다행이네요 ㅎUnknown님 감사합니다 :) 도움이 되셨다면 다행이네요 ㅎJaejun Yoohttps://www.blogger.com/profile/10226095526284477166noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-51549522033668832172020-03-28T21:42:32.591+09:002020-03-28T21:42:32.591+09:00아니요 딱히 없습니다ㅎ 이해를 돕기 위해 일반적으로 normalize하여 1이라고 생각하셔...아니요 딱히 없습니다ㅎ 이해를 돕기 위해 일반적으로 normalize하여 1이라고 생각하셔도 되구요. Jaejun Yoohttps://www.blogger.com/profile/10226095526284477166noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-72310182091701224752020-03-28T07:11:07.150+09:002020-03-28T07:11:07.150+09:00제일 처음에 decision rule 설정 하실때에, '최소한 1보다는 큰 값을 주...제일 처음에 decision rule 설정 하실때에, '최소한 1보다는 큰 값을 주도록 해본 것입니다.'라고 하셨는데, 이게 하필 1인 이유가 있나요?Anonymoushttps://www.blogger.com/profile/13618216892644957318noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-40251711196494020712020-03-12T16:26:31.816+09:002020-03-12T16:26:31.816+09:00지나가다가 대신 답변드립니다.
알파값을 구하는건 또다른 이슈입니다. 알파가 들어간 maxi...지나가다가 대신 답변드립니다.<br />알파값을 구하는건 또다른 이슈입니다. 알파가 들어간 maximization 문제는 처음문제의 dual form이라고 부르며, quadratic programming으로 풀 수 있는 문제입니다. 그리고 quadratic programming을 푸는 많은 테크닉이 따로 존재합니다.<br /><br />사실 원래문제였던 min(|w|^2/2)구하기도 quadratic programming으로 풀 수 있는 문제입니다. 그런데 라그랑주승수법을 사용해 굳이 dual form으로 변형한 주 이유는 kernel trick을 사용하기 위함입니다. dual form에는 샘플 x들끼리의 '내적'이 포함되어있지만 원래문제에는 그렇지 않기 때문이에요.NeutrinoAnthttps://www.blogger.com/profile/14194126125418869551noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-35513616050088813212019-11-07T15:24:53.294+09:002019-11-07T15:24:53.294+09:00좋은글 감사합니다. 잘보구 갑니다~~좋은글 감사합니다. 잘보구 갑니다~~Anonymoushttps://www.blogger.com/profile/00639628648070587980noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-45398877147891857752019-09-02T18:13:49.000+09:002019-09-02T18:13:49.000+09:00좋은 글 감사합니다.
그런데, 최종적으로 (학습데이터로부터? 서포트 벡터로부터?) 알파값을...좋은 글 감사합니다.<br />그런데, 최종적으로 (학습데이터로부터? 서포트 벡터로부터?) 알파값을 어떻게 구한다는 것인지 이해가 안됩니다.<br />위의 (bonus) The way to Kernel trick를 얘기하기 직전의 내용을 말하는 것입니다.Anonymoushttps://www.blogger.com/profile/17738829764698049440noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-25657569460566531732019-08-24T17:35:11.375+09:002019-08-24T17:35:11.375+09:00Woong님 안녕하세요. 그냥 단순한 대입입니다. x+에 대응하는 y는 1이고 x-에 대응...Woong님 안녕하세요. 그냥 단순한 대입입니다. x+에 대응하는 y는 1이고 x-에 대응하는 y는 -1므로 yi(w xi + b) = 1 식에 대입하셔서 wx+와 wx-를 좌변에 두고 우변으로 나머지를 모으면 wx+ = 1-b wx- = b-1 이므로 둘을 빼면 2가 나옵니다. 이해에 도움이 되셨을까요?Jaejun Yoohttps://www.blogger.com/profile/10226095526284477166noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-19961941551570248922019-08-24T16:30:11.154+09:002019-08-24T16:30:11.154+09:00죄송합니다만, 3번 수식에서 4번 수식으로 전개된 과정이 이해가 안되는데,, 알려주실수 있...죄송합니다만, 3번 수식에서 4번 수식으로 전개된 과정이 이해가 안되는데,, 알려주실수 있을까요 거리 공식 구하는것 같은데,, 가물가물 하네요 Woonghttps://www.blogger.com/profile/10266136341680172041noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-47896420487081361272019-08-14T13:59:52.577+09:002019-08-14T13:59:52.577+09:00앗 넵 맞습니다. 감사합니다 :)앗 넵 맞습니다. 감사합니다 :)Jaejun Yoohttps://www.blogger.com/profile/10226095526284477166noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-68200361997956950472019-05-13T10:22:11.381+09:002019-05-13T10:22:11.381+09:00Unknown님 안녕하세요. 답변이 매우 늦었지만 달아보자면, 음 딱히 책을 보면서 공부하...Unknown님 안녕하세요. 답변이 매우 늦었지만 달아보자면, 음 딱히 책을 보면서 공부하지는 않습니다. 궁금한 것을 인터넷에서 찾아보면서 자료를 찾고 읽거나 영상을 보는 식으로 공부합니다ㅎJaejun Yoohttps://www.blogger.com/profile/10226095526284477166noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-46766299729042114802019-02-07T18:20:01.474+09:002019-02-07T18:20:01.474+09:00다시와서보니 제가 무지했었네요. Cost Function으로 trade off 조정하는건 ...다시와서보니 제가 무지했었네요. Cost Function으로 trade off 조정하는건 soft-margin 기법인데 말이죠. alpha에 대한 최적화 문제로 치환되는것이 맞네요!Anonymoushttps://www.blogger.com/profile/10664460837426787405noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-61760260324658252402018-11-09T10:12:49.162+09:002018-11-09T10:12:49.162+09:00혹시 어떤 책으로 공부하시나요?혹시 어떤 책으로 공부하시나요?Anonymoushttps://www.blogger.com/profile/02489329581899519753noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-23273943833843307522018-10-30T02:49:34.821+09:002018-10-30T02:49:34.821+09:00⟺∑i=1Nαi−∑i=1N∑j=1Nαiαjyiyjx⃗ Tix⃗
여기에서 2번째 sigma...⟺∑i=1Nαi−∑i=1N∑j=1Nαiαjyiyjx⃗ Tix⃗ <br />여기에서 2번째 sigma에 1/2 곱해져야 하는것 아닌가여..?Anonymoushttps://www.blogger.com/profile/09448784752015883258noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-9685075822015449282018-09-06T10:14:54.877+09:002018-09-06T10:14:54.877+09:00좋은 글 잘 보고갑니다. 수식적 전개가 주는 인사이트를 알려주셔서 감사합니다.
궁금한게 있...좋은 글 잘 보고갑니다. 수식적 전개가 주는 인사이트를 알려주셔서 감사합니다.<br />궁금한게 있는데 제가 배웠을적에 svm 유도 수식은 Cost function기반 bias-variance trade-off 를 할 수 있는것으로 알고있는데요.<br />해당 수식에서 Cost function을 어떻게 다루는지 알고싶습니다.Anonymoushttps://www.blogger.com/profile/10664460837426787405noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-85673477662706337122018-08-30T00:24:03.656+09:002018-08-30T00:24:03.656+09:00밑에 w.r.t(with respect to)로 설명이 되어 있는데요...밑에 w.r.t(with respect to)로 설명이 되어 있는데요...Beyounotthemhttps://www.blogger.com/profile/06902446465143901249noreply@blogger.comtag:blogger.com,1999:blog-6029100972813152037.post-43634004023667999372018-06-26T23:55:31.878+09:002018-06-26T23:55:31.878+09:00영상을 보기에는 아직 부족하지만 영상도 보고 이해가 안되는 부분이 있어 쓰신 글을 봤는데 ...영상을 보기에는 아직 부족하지만 영상도 보고 이해가 안되는 부분이 있어 쓰신 글을 봤는데 큰 흐름을 잡는 데 도움이 된 것 같습니다.<br />한가지 질문이 있는데 글에서 라그랑지 승수법을 쓰신 부분에 minimize와 maximize부분이 있는데 어떤식을 minimize고 maximize인지 알 수 있을까요? 아직 이해가 부족해서 이런 부분에서도 막히네요 ㅠㅠAnonymoushttps://www.blogger.com/profile/00138212393467477705noreply@blogger.com