본문 바로가기

전체 글93

[Courasera] Advanced Learning Algorithms - Activation Function : 머신러닝 특화과정 본 게시물은 Courasera Andrew Ng 교수님의 머신러닝 특화 과정 Supervised Machine Learning : Advanced Learning Algorithms 을 summary 한 것입니다. 로지스틱 회귀의 시그모이드 함수와 마찬가지로 레이어의 모든 노드에서 활성 함수를 사용한다. 그러나 어떤 경우에는 다른 활성 기능을 사용하여 신경망을 더 강력하게 만들 수 있다. 첫 번째는 선형 활성 함수, 두 번째는 로지스틱 회귀에 사용되는 시그모이드 함수, 세 번째는 ReLU이다. ReLU의 특징은 z가 0보다 작으면 0이고 z가 0보다 크면 z를 반환합니다. 활성함수를 사용하는 이유는 선형분류의 한계 때문이다. 활성 함수를 사용하면 출력 값이 선형이 아니므로 선형 분류를 비선형 시스템으로 .. 2023. 3. 20.
[Courasera] Advanced Learning Algorithms - Neural Networks : 머신러닝 특화과정 본 게시물은 Courasera Andrew Ng 교수님의 머신러닝 특화 과정 Supervised Machine Learning : Advanced Learning Algorithms 을 summary 한 것입니다. 신경망은 뇌가 학습하는 방식과 거의 관련이 없지만 뇌를 모방하는 소프트웨어를 구축하려는 초기 동기가 있었다. 뇌는 전기 자극을 보내고 때로는 다른 뉴런의 새로운 연결을 형성한다. 이와 같은 뉴런에는 다른 뉴런으로부터 전기 자극을 받는 많은 입력이 있다. 따라서 위 그림과 같이 인공 신경망은 생물학적 뉴런이 하는 일에 대한 매우 단순화된 수학적 모델을 사용한다. 신경망에서 입력 값이 있는 첫 번째 계층을 input 계층이라고 하고 출력 값이 있는 마지막 계층을 output 계층이라고 하며 그 사.. 2023. 3. 20.
[Courasera] [3week] Classification : 머신러닝 특화과정 본 게시물은 Courasera Andrew Ng 교수님의 머신러닝 특화 과정 Supervised Machine Learning : Regression and Classification 3week 을 summary 한 것입니다. linear regression을 사용하면 예측 결과가 음수이거나 1보다 큰 숫자가 될 수 있다. 그러나 이진 분류 문제에서는 predict가 0 또는 1이어야 한다. 따라서 이진분류에서는 로지스틱 회귀를 사용힌다. Logistic Regression은 0과 1을 출력 하는 함수로 표현된다. 그림에서와 같이 g(x)는 0과 1 사이의 값을 나타내는 시그모이드 함수로 표현할 수 있다. 따라서 sigmoid 함수는 입력 값 x와 매개변수 w 및 b에 대해 y가 1일 확률을 나타낸다고 .. 2023. 2. 6.
[Courasera] [2week] Regression with multiple input variables : 머신러닝 특화과정 본 게시물은 Courasera Andrew Ng 교수님의 머신러닝 특화 과정 Supervised Machine Learning : Regression and Classification 2week 을 summary 한 것입니다. Multiple features 은 테이블과 같이 X1,X2,X3,X4 와 같은 여러 변수의 입력이다. 따라서 그림과 같이 수식을 표현할 수 있으며 벡터를 사용하여 식을 단축할 수 있다. 다중선형회귀에 대한 경사하강법은, n개의 feature 의 경우 각각의 가중치를 갱신할 수 있다. 경사하강법을 사용할 때 변수의 feature가 유사한 범위로 변환하면 더 빠른 수렴이 가능하다. 좋은 모델은 (0.1)과 같이 상대적으로 작은 매개변수 값을 선택하는 방법을 학습한다. 스케일링을 통한.. 2023. 2. 6.
학부연구생 - 또 미룬 56주차 회고록 3달만에 작성하는 학부연구생 회고록 🥽 회고록을 미루고 미루다가 거의 3달만에 작성하게 되는데, 폭풍 같은 3학년을 마치고 해외 인턴쉽 프로젝트도 끝나고 ( 떨어졌지만...) 마침내 여유가 생겨 이렇게 작성하게 된다. 그동안의 바쁨은 나의 캘린더로 대신 설명이...가능할 것이라 생각한다. 잘 보일지는 모르겠으나 거의 꽉꽉 채워진 나의 캘린더이고, 꽤나...엄청.....많이 바쁜...? 하루하루를 보냈다는 것을 알 수 있다. 아무튼 회고록을 미룬 이유는 이러하고, 3달간...? 잘 기억은 안나지만, 그래도 열심히 차근차근 풀어 보도록 하겠다. 연구실 과제 ( OpenMMlab ) 🎈 연구실에서 진행 중이던 super resultion 과제는 얼마전에 거의 마무리를 지었고, 선배님들께서 보고서, 포스터, 논.. 2023. 2. 3.
[IEEE IGARSS 2021] ATTENTION BASED SEMANTIC SEGMENTATION ON UAV DATASET FOR NATURALDISASTER DAMAGE ASSESSMENT 논문 리뷰 # 세미나 일정 : 2023 / 01 / 27 # 목적 : LPCV 대회 참가를 위한 study 틀린점이 있다면 댓글 남겨주시면 감사합니다 (❁´◡`❁) IMFORMATION 본 논문은 IEEE International Geoscience and Remote Sensing Symposium (IGARSS) 에 publish 된 논문이다. 논문의 저자는 메릴렌드 볼티모어 카운티 대학의 computer vision lab (BINA LAB) 에서 박사과정 진행중인 학생이며, 이전 연구에서 이와 유사한 연구를 진행 하였다. 이전 연구를 살펴본 결과 본 연구는 후속 연구라 생각된다. TMI 본 논문을 study 한 이유는 올해 4학년에 진학하며 졸업프로젝트를 내가 속해있는 연구실의 교수님 과제를 진행하게 되었는.. 2023. 1. 30.
[Courasera] [1week] Introduction to Machine Learning : 머신러닝 특화과정 본 게시물은 Courasera Andrew Ng 교수님의 머신러닝 특화 과정 Supervised Machine Learning : Regression and Classification 1week 을 summary 한 것입니다. Ⅰ : Introduction to Machine Learning 머신러닝은 컴퓨터가 명시적으로 프로그래밍 되지 않고 학습할 수 있는 능력을 제공하는 연구 분야로 정의 할 수 있습니다.. 이에 따라 머신러닝의 목적은 기계가 어떠한 일들을 스스로 배움으로써 해결하는 것입니다. 머신러닝은 다양한 학습알고리즘이 있는데, 주요 알고리즘으로 지도학습, 비지도 학습이 있습니다. 감독된 학습은 출력 매핑에 대한 입력을 학습하는 알고리즘을 의미합니다. 주어진 입력 x에 대한 정답 y가 제공되며,.. 2022. 12. 20.
MI-333 해외 인턴십 준비하기 MI--333✈️ 본 카테고리는 해외 인턴십을 준비하며 과정과 느낀점을 기록하기 위해 작성합니다. MI-333 의 시스템은 먼저 회사에서 이력서를 받고 인터뷰를 통해 1차로 선발 한 후 3개월간 프로젝트를 진행하여 본 학생이 적합한지 아닌지를 판단하여 인턴을 진행할지 안할지 결정한다. 인턴을 진행하게 된다면 6개월 혹은 1년을 본 회사로 가서 인턴을 진행한다. 해외인턴의 기회🔥 충남대학교 컴퓨터공학과에선 매년 2회 정도 해외 인턴과 해외 대학 파견 프로그램을 진행하고 있다. 본 프로그램은 sw 사업단에서 지원하는 프로그램이며, 해외 인턴은 미국 실리콘벨리에 있는 스타트업에서 인턴십을 6개월 에서 1년 정도 진행하며, 해외 파견의 경우 겨울방학 간 미국 퍼듀대학에 파견하여 프로젝트를 진행하는 과정이다. 사.. 2022. 11. 11.
Replacing the main language with Python (2) 공부가 하기 싫어서 진짜 간단하게 짜본 롤 5:5 팀짜기 🦍 일단 파이썬에서 지원하는 random 을 import 해준다. 이는 랜덤으로 팀을 섞기 위함이다. 그리고 사람 이름이 담긴 txt 파일을 load 한다. 이는 아래와 같다. 그 다음 각 라인을 담은 list 를 생성한다. 롤은 블루팀, 레드팀으로 나뉘고 각 탑,정글,미드,원딜,서폿으로 라인이 정해져 있다. 따라서 이를 모두 선언해준다. 다음으로 random 으로 indexing 을 해준다. for loop를 사용하여 순서를 random.randint 를 사용하여 random 으로 0~9까지의 수를 넣어준다. 그리고 order 가 team_index 에 존재한다면 다른 수를 넣어야 하기 때문에 while 문을 통해서 유무를 판별한다. 있다면 없을.. 2022. 11. 2.
학부연구생 - 미루고 미룬 41주차 회고록 미루고 미룬 41주차 회고록을 작성합니다아 (❁´◡`❁) 거의 2달이 지난 회고록 마지막 회고록 작성 일지를 확인해 보니 33주차 회고록을 작성했던것을 확인 했다. 거의 8주차가 지나서 회고록을 작성하려고 하니 생각보다 글이 안써진다..일단 8주나 지나서 작성하는 이유, 변명아닌 변명을 하자면 매우 바빴다....! 학부 공부와 쏟아지는 과제들, 연구실 과제 등등 다양한 일들이 나에게 쏟아졌는데 겨우겨우 중간고사가 끝나고 여유가 생겨 이렇게 작성하게 된다. 본 게시물은 나의 일상이 아닌 학부연구생의 회고이므로, 일상에 대해선 다음에 올려볼 생각이다. 학기 중 학부연구생 사실대로 말하면 지난 약 2달간 연구실에 자주 가지 못했다. 위에서도 짧게 언급했는데 학부 수업과 과제들, 팀프로젝트, 팀프로젝트 회의, .. 2022. 10. 28.
Replacing the main language with Python (1) 모듈 객체(module object) 나는 디렉토리 자체가 객체가 될 수 있다곤 생각을 안해 봤는데, 모듈 객체라는 것이 있는것을 확인하였다. 이번에도 역시 예시는 mmediting 이다. 연구실 과제를 진행하며 코드를 열심히 뜯어보고 씹어보고 있는데 이상한 코드를 발견 하였다. 일단 해석해보자면, ' mmcv 위치에 있는 cnn 에서 MODELS 를 import 해서 MMCV_MODELS 라고 부르겠다' 라는 것인데, 지난번 포스팅에서 from (pakage) 라고 했으니 일단 넘어가고 import 할때 MODELS 라고 명시되어 있는데 암만 봐도 MODELS 라는 파일은 존재 하지 않았다. 그래서 평소에 그냥 넘어갔던 __init__.py 를 살펴봤다. 여기서 MODELS 가 있는것을 발견 했다. 그.. 2022. 10. 5.
Replacing the main language with Python (0) 프로그래밍 주 언어 파이썬으로 바꾸기 사실 주 언어라고 할 수 있는게 없긴한데.....(3학년인데...?) 최근 스스로가 정말 많이 사용하고 있기도 하고, 임베디드 연구실에 거주(?) 하고 있지만 AI를 곁들인 임베디드를 하고 있다. 하지만 darknet 기반의 C 언어 보다는 Pytorch 기반의 Python 언어를 정말 많이 사용하고 있어 이참에 메인 언어를 파이썬으로 정착해보자 ....! 라는 심경으로 시작하게 된 배경이다. 2학년까지는 자바를 정말 많이 사용했고, 3학년 1학기에는 C 언어를 사용했는데 이렇게 또 언어 공부를 다시 시작하려 하니 걱정이 좀 앞선다. 그래도 AI 는 파이썬 아니겠는가..! 차근차근 단계를 밟아 실력을 올려보자. 본 카테고리는 여러과제를 하며 파이썬 공부를 짧막하게나마.. 2022. 10. 3.