흥미로운 IT

Classification: y = 0 or y = 1

if hθ(x) ≥ 0.5, predict y=1

if hθ(x) < 0.5, predict y=0

⇒ logistic regression: 0 ≤ hθ(x) ≤ 1

Hypothesis Representation

- Sigmoid function (==logistic function)

(cf) hθ(x) = 0.7 ⇒ 70% chance of ~~~

Decision boundary

hθ(x) = g(θ0+θ1x1+θ2x2)  ⇒  predict y=1 if -3+x1+x2 ≥ 0

Cost function

- How to choose parameter θ? 

Simplified cost function and gradient descent

* convert the two lines into one line

Logistic regression cost function

Gradient Descent

 *Looks same as linear regression!

BUT, hθ(x) are different! ==>

Multi-class classification (one-vs-all)

Sigmoid function  VS  softmax classifier

⇒ sigmoid: get percentage on how y might equal to 1 for each class

⇒ softmax: get the distribution of percentage of the classes

2022.01.25

Coursera - Machine Learning_Andrew Ng - Week 2

Multiple features(variables)

Gradient descent for multiple variables

Gradient descent in practice 1: Feature Scaling

- feature scaling

: simple trick to apply → make gradients run much faster and converge in a lot fewer other iterations.

: make sure features are on a similar scale ⇒ get every features into approximately a -1<=xi<=1 range

- mean normalization

Gradient Descent in practice 2: Learning rate

- Debugging: make sure gradient descent is working correctly

        (use visualization using plot vs automatic convergence test)

If α is too small ⇒ slow convergence

If α is too big ⇒ J(θ) may not decrease on every iteration; may not converge

Features and Polynomial Regression

Normal Equation formula

⇒ Compare with Gradient Descent

Gradient Descent	Normal Equation
needs to choose α	no need to choose α
needs many iterations	don't need iteratation
works well even when n is large	slow if n is very large + need to compute

Supervised learning

-classification vs regression(contiguous variables)

Unsupervised learning

-no answers given to the algorithm ⇒ computer automatically analyze

-cocktail party problem ⇒ 2 audio recordings → separate out the two voices ⇒ can be done with single line of code

⇒ [W,s,v] = svd((repmat(sum(x.*x,1),size(x,1),1).*x)*x’);

⇒ use “Octave” or “Matlab” ⇒ it’s faster

[Linear Regression]

Model Representation

-supervised learning has training set

-training set → learning algorithm

* hypothesis:

Cost Function

⇒ Goal: minimize J(θ0 , θ1) ⇒ global minimum

⇒ use contour plots/figures for visualization

⇒ linear line of h(x) is converted to a single point in cost function graph

Gradient Descent Algorithm

If is α too small ⇒ gradient descent can be slow (alpha = step size)

If is α too big ⇒ gradient descent fail to converge, or even diverge

α rate doesn’t need to decrease →automatically take smaller steps

Batch Gradient Descent: every step needs to calculate all training sets in batches

Review:

Although there is difficulty in understanding the whole process, particularly the gradient descent equation, I am fairly able to get the big picture and the important concepts of machine learning regarding supervised/unsupervised learning, model representation, cost function, and gradient descent algorithm.

I am currently able to follow the contents and able to solve the quiz in Coursera for each lecture without much difficulty, yet!

2020 도쿄 올림픽과 패럴림픽에서 얼마 전에 AI 관련해서 사고가 났다.

자율주행 셔틀버스를 운영하던 ㄷ쿄 패럴림픽에서 일본 국적 선수와 충돌하는 사고가 발생한 것이다.

26일에 선수촌 내 T자형 교차로에서 자율주행 셔틀버스는 식당을 가던 중 우회전을 하면서 혼자서 횡단보도를 건너던 일본 유도 남자 81kg급 대표 선수 기타조노 아라미쓰(30)과 부딪혔다. 해당 선수는 시각장애인이었고, 사고 당시에 균형을 잃고 넘어지면서 머리에 타박상이 생기는 등의 전치 2주 상처를 입었다. 또한, 이 사고로 인해서 기타조노 선수는 경기 참가 또한 불투명해졌다.

해당 자율주행 셔틀버스의 이름은 이팔레트(e-Pallette)로써, 사고차량은 레벨4 수준의 자율주행 기술을 탑재하면서 최고 시속을 19km/h로 갈 수 있다. 심지어 사고 당시에 해당 셔틀버스에 도요타 직원 2명과 승객 5명이 타고 있었다고 한다.

이 사건은 자율주행 자동차의 현 상황에 대해서 다시 한 번 생각을 해보게 된다.

이미 미국에서 테슬라(Tesla)에서 자율주행 자동차는 사람들이 타기 시작했다. 문제는 잇따른 사고 또한 발생하고 있다는 점이다. 최근에는 자율주행차가 경찰차를 들이받는 사고까지 났다고 한다.

자율주행차가 완전히 실패하고 있다고 생각되지는 않는다. 유튜브로 검색만해봐도 사람이 주행에 관여를 하지 않으면서 자동차가 원하는 목적지로 아무 사고 없이 주행을 하는 영상들도 많이 볼 수 있다.

다만, 아직 이러한 자율주행차들이 모든 사고에 대해서 대비가 되는 기술을 탑재하고 있지 못하다는 점이 문제라고 볼 수 있다. 가령, 사각지대에서 사람이 나올 때, 제대로 사람으로 인지를 못한다는 점을 들 수 있다. 

확실치는 않지만, 현재 자율주행자동차에 탑재되어있는 기술은 이미지를 통해서 사물과 도로 등을 판단하는 것으로 알고 있다. 만약 사실이라면, 제대로 사람과 사물을 인식하는 데에 있어서 변수가 있을 수 있다는 점을 무시하지 못할 것이다. 예를 들어 버스에 있는 광고판을 사물, 혹은 빈 공간으로 인식하여 충돌사고가 발생할 수도 있다고 생각된다.

AI Times에 따르면, 자율주행차(AV)의 운행은 "센서 정보와 일부 인공지능(AI) 알고리즘을 기반으로 한다고 한다. 따라서 차량은 데이터를 수집하고 궤적을 계획하며 주행을 실행해야 한다." 결국 두 가지의 작접은 머신러닝의 기법에 의존하여 물체를 감지한다는 뜻인데, 이러한 딥러닝 알고리즘을 통한 기술은 단순히 "기술"이라는 것을 인지해야 한다. 즉, AI는 지각력이 없다는 사실이다. 데이터를 기반으로 움직이고, 데이터를 기반으로 판단하게 된다. 그리고 이 데이터를 벗어나는 변수에 대해서 과연 어떻게 반응을 할지에 대해서 깊이 생각해볼 필요가 있다고 생각된다.

기사 출처1: http://news.kmib.co.kr/article/view.asp?arcid=0016214932&code=61172011&cp=nv 

기사 출처2: http://www.aitimes.com/news/articleView.html?idxno=140612