Cours online & gratuit : Introduction to Artificial Intelligence - Fall 2011

[bertry]

Envoyé par gbdivers

Désolé de répondre après la date limite de soumission. mon avis, si on a un problème avec un exo, il faut mieux poser la question le plus rapidement possible et ne pas attendre le week, le forum est beaucoup moins fréquenté à ce moment là.

Pas de soucis, cette partie de l'exercice est optionnelle et non-évaluée.

Envoyé par gbdivers

Pour ton problème, j'espère que tu as trouvé la réponse tout seul. Sinon, le problème vient du fait que tu appliques la transformation aux mauvais paramètres : le feature scaling s'applique sur y (sauf la première colonne) et non sur theta :

Code :

En effet, merci. Je me suis évertué à vouloir transformer theta alors qu'il fallait transformer X ( comme on le fait sur les données d'entrée ) : J'étais bêtement resté bloqué sur ce problème !!!
Ca donne :
Edit : Code supprimé suite à la remarque de Guillaume ( réponse ci-dessous ): la date de remise est repoussée du 23 au 25 ( Toutes mes excuses, mais je répète que cette partie est optionnelle et non évaluée pour tous ( Il n'y a pas de basic ou d'advanced dans ce cours contrairement au ai-class) )

En tout cas, merci Guillaume.

[gbdivers]

Pas de soucis, cette partie de l'exercice est optionnelle et non-évaluée.

Si tu as choisit le programme "basics", c'est possible.
Pour les autres, la date de remise de l'exercice a été poussée jusqu'au 25 (donc mardi).

Du coup, je n'aurais pas du poster le code puisque l'exercice n'est pas fini.

[bertry]

Ok Guillaume : L'exercice n'étant pas clôturé, j'ai supprimé mon code...

[gbdivers]

Envoyé par bertry

Edit : Code supprimé suite à la remarque de Guillaume ( réponse ci-dessous ): la date de remise est repoussée du 23 au 25 ( Toutes mes excuses, mais je répète que cette partie est optionnelle et non évaluée pour tous ( Il n'y a pas de basic ou d'advanced dans ce cours contrairement au ai-class) )

Tu m'as mis le doute. J'ai vérifié, il y a 2 choix aussi pour ml-class (advanced et basic, dans les préférences). Et pour le advanced, je n'ai pas vu que cet exercice était optionnel.

[bertry]

En effet, il y a bien deux niveaux : Basic et Advanced ( et je suis bien en advanced, ouf! )
Mais pour ce qui est de mon problème : page 14 de l'énnoncé ex1.pdf :

Using the best learning rate that you found, run the ex1 multi.m script
to run gradient descent until convergence to find the final values of . Next,
use this value of  to predict the price of a house with 1650 square feet and
3 bedrooms. You will use value later to check your implementation of the
normal equations. Don’t forget to normalize your features when you make
this prediction!
You do not need to submit any solutions for these optional (ungraded)
exercises.

Et c'est pareil pour l'évaluation avec la méthode "Normal équation" : En bas de la page 14 :

Optional (ungraded) exercise: Now, once you have found  using this
method, use it to make a price prediction for a 1650-square-foot house with
3 bedrooms. You should find that gives the same predicted price as the value
you obtained using the model fit with gradient descent (in Section 3.2.1).

En tout cas, grace à toi, je trouve maintenant la même valeur avec les deux méthodes

PS : seul les exercices sur la régression monovariable sont obligatoires ( 100 points ). Les exercices sur la régression multivariable, eux, sont optionnels ( 50 points de bonus ).

[gbdivers]

Ah, il y a un pdf ?
J'avais copier le code dans un répertoire de travail, du coup j'avais oublié qu'il y avait un pdf dans l'archive et je ne l'ai pas lu. Je comprends mieux pourquoi j'avais du mal à comprendre ce qu'il fallait faire en lisant simplement les commentaires dans le code

[bertry]

Envoyé par gbdivers

Ah, il y a un pdf ?

[Zilian]

Moi je galère sur les probas d'AI-class

[gbdivers]

Envoyé par Zilian

Moi je galère sur les probas d'AI-class

Il reste peu de temps, n'hésite pas à poser des questions si nécessaire. Contrairement à ml-class, tu n'as pas la note avant la fin de l'exercice donc il te seras pas possible de savoir si tu as bon ou pas.

[Zilian]

Merci

La je galère vraiment sur le 3. (Simple Bayes Net 2) J'ai fait tout le reste mais là je ne vois vraiment pas par où commencer...

[gbdivers]

C'est exactement la même démarche que pour 3-23 mais avec 3 noeuds

[bertry]

Envoyé par Zilian

La je galère vraiment sur le 3. (Simple Bayes Net 2) J'ai fait tout le reste mais là je ne vois vraiment pas par où commencer...

J'ai utilisé ce qu'on voit sur la vidéo 23. Conditional Indepedence 2 du chapitre 3. Probability in AI pour cette question.

( Désolé je n'avais pas vu que la réponse était déjà donnée )

[gbdivers]

Bonjour

J'ai un problème avec mlclasss-ex2 costFunctionReg.m. La valeur de J pour initial_theta est correcte, les graphs sont bons... mais la soumission me dit que c'est pas bon. J'ai pas vu d'erreurs dans mon code (mais je devrais peut être aller dormir...) Si quelqu'un voit où ça cloche, je suis preneur.

costFunctionReg.m :

Code :

1
2
3
4
5
6
7
8
h = sigmoid(X * theta);
regul = lambda / (2*m) * sum(theta(2:length(lambda)) .^ 2);
J = 1/m * sum( -y .* log(h) - (1-y) .* log(1 - h) ) + regul;

grad(1) = 1/m * sum((h .- y) .* X(:,1));
for ii = 2:length(grad)
	grad(ii) = 1/m * ( sum((h .- y) .* X(:,ii)) - lambda * theta(ii) );
end;

sigmoid.m :

Code :

g = 1 ./ (1 .+ exp(-z));

Merci

[bertry]

Salut,

C'est peut-être ce lambda là :

Code :

regul = lambda / (2*m) * sum(theta(2:length(lambda)) .^ 2);

qui doit être remplacé par theta. Mais à 4h30 du matin, difficile d'avoir les idées claires...

[gbdivers]

Merci. J'avais trouvé cette erreur ce matin en me relisant.
Par contre, j'ai encore une erreur sur le calcul du gradient. Et maintenant je suis réveillé

EDIT : ok, j'ai trouvé sur le reddit. Il y a une différence dans la formule de calcul du gradient entre le pdf de l'exercice et le cours.

[bertry]

Malgré mes recherches, je n'arrive pas à trouver d’où vient ton erreur. La valeur de J que je calcule ton code et le mien sont les même avec les deux méthodes.
Je ne sais pas si c'est lié mais Matlab me refuse (h. - y) et préfère (h - y)

[bertry]

En ce qui me concerne, après avoir parcouru à nouveau le cours, il y a une question à laquelle je ne trouve pas de réponse :

Dans la video VI. LOGISTIC REGRESSION : Simplified Cost Function and Gradient Descent, calez-vous à la minute 6:45

Là, il explique que d(J(theta))/dthetaj = 1/m *Somme ... : là OK je suis d'accord

Mais juste après à la minute 7 : 00 quand il remplace d(J(theta))/dthetaj par la dérivée calculée, le 1/m disparait :

thetaj := thetaj - alpha * Somme ... : Là je ne comprend plus!

Je ne comprends pas pourquoi le 1/m disparait du calcul! Est-ce une faute de frappe?

Je n'ai pas réussi à trouver quelque-chose sur le forum du cours à ce sujet

Edit : Il semble bien qu'il s'agisse d'une faute de frappe, le 1/m réapparait dans les formule du chapitre Regularization

[Franck Dernoncourt]

Can 35,000 People Learn Anything from an Online Class? http://mindshift.kqed.org/2011/11/ca...-online-class/

[bertry]

Salut,

Je bloque sur l'exo 5-2

J'ai calculé f1, f2, f3 dans les 3 cas, mais après que dois-je en faire? Comment faire pour savoir si F est plus intéressant que G?

Cet exo est manifestement lié aux cours 10-20 et 10-21 ( Pac Man 1 & 2 ) où il est question de coefficients wi lies au paramètres fi, dois-je calculer les wi?
Si je me contente d'additionner les fi dans chaque cas, j'ai toujours G>F!

Et je dois être le seul à ne pas comprendre car je ne trouve rien sur les forums liées à ce cours!!!

Edit : Je crois que je viens de comprendre d’où venait mon incompréhension : je n'avais pas compris qu'il fallait comparer par rapport à l'état donné en haut de l’énoncé ! Je croyais qu'il fallait calculer les valeurs de Q(S,a) dans les trois cas et choisir le meilleur!!

[Franck Dernoncourt]

2 liens également sur l'exo 5-2 :

• http://www.aiqus.com/questions/11522...in-homework-52
• http://www.aiqus.com/questions/11111...-clarification