# Knowing less

The story being discussed is about the development of an AI system called Alphago, which was created to play the game Go. 


Go is considered the most difficult game for a computer to play due to the vast number of permutations. In a match against a world Grand Master, the computer made a move that was outside of the strategy and understanding of human Go players. 

The Grand Master was so shocked by the move that he got up from the table in disgust, but the computer ultimately won the game. **_The takeaway from the story is that the computer solved the problem by not knowing more than the human, but by knowing less_,** and using only the rules of the game to make a move that increased its chances of winning mathematically. 

This is a powerful example of how new, "orthogonal" approaches can be used to solve problems and that inspiration and new ideas are needed to tackle massive problems.

### Full transcript:

... that we're grappling with that very smart people are trying to come up with new ideas around like we need that
sensibility as a major part of that conversation we can't solve these
massive problems on logic and reason alone we need inspiration we need kind
of new orthogonal approaches that maybe we're not seeing and there's a really great
story in the book about an AI that kind of illustrates that point would you like
being yeah yeah tell that story uh I I saw a video about seven years ago
about alphago which was a AI system
created to play the game go and they chose go because up until this
point chess had been used computer chess but go is the most difficult or it has
the most potential combinations of any game and it's the most difficult would be the
most difficult game for a computer to be able to play be good at yeah there's like hundreds of billions
of permutations yes they're more more permutations than there are grains of sand on the planet that's how many
permutations so it's it's a very difficult Computing problem and humans have been playing the game
for three thousand years it's a very old game and there was there came a point in the movie where
the computer is playing the world's Grand Master and
eventually the computer makes a move that
has never been made before it's a funny thing to say because it's a game where you place a stone on a square
you can place it on any Square you want you know there's no rule where you where you kind of can't place it if you place
it on one of the one of the intersections of the squares you can place a stone on any intersection that
doesn't have a stone on it and the computer made a move that was
outside of the strategy understanding of human beings
it placed a stone in the as I remember it there were two choices based on the
conditions for the computer to make a move and to even make it was either going to place a stone on the
first line or the second line and if they placed the stone on the first line it meant a defensive game and if they
placed it on the second line it was a defensive game but anyone with experience who's playing the game ago
would know it's one of those two moves right and those are the only two moves
that any rational person would make anyone yes and the computer put the stone on line three now there's
no rule saying you can't put it on line three but it it was outside of the imagination
of the culture of go for three thousand years it made a move that was
I'll say irrational to the human go world right the
community of go Wizards yes yeah and it was so inflammatory
that the Grand Master got up from the table in disgust and there were some questions with the
commentators because this was this was on on television this is a like a the
computer versus Man big story people thought the computer made a mistake it was like it was such a wrong
move couldn't be and the computer ends up winning that game the Grand Master eventually comes
back after he composes himself and the computer wins the game and the Grand Master ends up retiring
because his mind is so blown by what happened right and when I'm watching the story I
realize there are tears running down my face and I'm crying and I wasn't sure why
and I thought about it for a while and it wasn't the most obvious answer
was the computer beat the man
oh no it's the end of the world uh man loses to the computer I'm crying because
we're but it wasn't that at all what it was was the reason I realized the reason
the computer won was because the computer didn't know more than the human the
computer knew less than the human the computer only knew the rules of the game it
didn't know the Customs the morals the mores
the stories what one Grand Master learns from another grand master the cultural
references over the years of the game didn't know the history the etiquette didn't know any of that all it knew was
I could put it anywhere by putting it here it's going to increase my chances of winning mathematically so the
computer solved a problem not by knowing more but by knowing less
and that's a really beautiful idea for me because I it gets back to The Beginner's
mind idea it's not that we need to necessarily learn more it's more like we need to think
different like maybe if we can let go of some of our beliefs if we can let go of
some of the stories that we hold if we watch an event happen
instead of accepting the first version of the story that comes to us to help us
survive in the world that's what we do we'll we'll see a series of events
and we make up a story that explains what that is and that way we can sleep at night right because really we don't
know anything we don't know anything that's the powerful Epiphany in the whole thing this humility to embrace the
idea that we really don't know that much and when you look at the web telescope images it's so
awe-inspiring and it's such a healthy dose of humility to that point right we
walk around rational beings it's the Age of Reason and Enlightenment
we have answered many questions and to the questions that we don't yet have
answers to we feel we're capable of answering those very soon and yet that
is still such an incredibly Limited perspective on the totality of what
we're actually [ __ ] contending with which is beyond our ability as these tiny organisms to comprehend
it's true yeah so to walk the earth with that sensibility of actually we don't
really know anything we don't really know anything and and when something happens to say oh that it might be that
maybe it's that uh-huh or let's see if we can come up with another reason what else could it be and like ...

Full interview: https://www.youtube.com/watch?v=6pxUXCRrq8Q

The story being discussed is about the development of an AI system called Alphago, which was created to play the game Go. 

Go is ...

Knowing less

# Suerte

Quería contarles la historia de un flaco que siempre fue un alumno mediocre, que tardo 4 años en completar solo 2 años de cursada en la universidad y al final ni siquiera pudo terminarla, abandonó. Le tomó 10 años conseguir un trabajo en tecnología, y mientras estuvo en los trabajos menos calificados que existen.

Ese flaco soy yo, y ahora vivo y trabajo en Silicon Valley hace 14 años, tuve la suerte de trabajar en dos de las empresas mas importantes de Internet y haber hecho una carrera muy buena.

¿Como llegue a tener este tipo de trabajos en la industria siendo así de “mediocre”?, bueno, la respuesta corta es que principalmente tuve suerte (estuve en el lugar correcto, y en el momento adecuado), pero sobre todo **perseverancia**.

Siempre supe que trabajar con la computadora era lo mío, aunque mis primeros trabajos no hayan tenido absolutamente nada que ver con eso:

Primero trabaje en una casa de artículos de limpieza, duré solo un mes de lo malo que era. Después di clases de computación a gente mayor por unos pesos la hora, y hacia sitios web pequeños. Luego de un tiempo hice un sitio en una pequeña editorial, y trabajé en un Call Center atendiendo llamados, uno de los trabajos menos calificados que hay.

**Durante ese tiempo siempre hacia cosas que estaban fuera de mis tareas pero que estaban relacionadas con programar**.

De casualidad me ofrecieron a mi y a otros estudiantes de un curso que estaba haciendo hacer una pasantía en AFIP, ese fue mi primer trabajo serio como programador. Tres años después renuncie a AFIP, y me hice Freelance, pero no me fue tan bien.

**Pero tuve un golpe de suerte inesperado**

Lo que estaba haciendo en mi tiempo libre (programar en Ruby) era necesitado en LinkedIn y no conseguían gente. Globant me contrato para ese proyecto, trabaje muy duro, y 6 meses mas tarde, termine como empleado de LinkedIn. Me mude a Silicon Valley y logré tener un impacto grande en LinkedIn que paso de 300 a 6.000 empleados y luego salió a la bolsa. Increíble.

Mientras estaba en LinkedIn aprendi a programar para iPhone (insistí después de 4 intentos fallidos), **y pude especializarme en lo que quería hacer mientras estaba en el trabajo que quería cambiar**. Después llego la oportunidad de ir a Twitter y ahi pude ser líder de equipo y hacer mil cosas copadas. Ahora estoy haciendo una startup con amigos y nos esta yendo muy bien, puedo administrar mi tiempo como quiero y hacer lo que me gusta.

**Todo esto fue principalmente suerte e insistencia. No hay secreto, no hay talentos especiales**. No soy un genio ni mucho menos, al contrario soy bastante pelotudo, pero la gente siempre se detiene en lo ultimo, es realmente un proceso. El talento es solo un multiplicador, solamente te permite hacer las cosas mas rápido y alcanzar objetivos mas fácil. Nada mas.

Todo esto suena a discurso motivador, y hasta aburrido, pero es real y fue mi experiencia hasta ahora.

En definitiva lo que les quiero decir, es que ahora **como primer paso consigan un trabajo que pague las cuentas**, no van a conseguir el trabajo ideal en la industria el primer día, eso es ridículo y hasta diría contraproducente. Lo mas importante es que no dejen de hacer proyectos con la computadora, de practicar y sobre todo, de hacer. Ustedes están terminando la universidad lo cual es un logro increíble. **Naturalmente van a terminar trabajando de esto, tienen suerte de estar en la industria mas demandada de la historia de la humanidad**.

Insistan.

Quería contarles la historia de un flaco que siempre fue un alumno mediocre, que tardo 4 años en completar solo 2 años de cursada en la u...

Suerte

# El día que me reemplazó un Bot

Tuve uno de esos días donde te discuten cosas insólitas y sin argumentos en Twitter, me canse y decidí armar un bot que me reemplace unos días, y así no tener que lidiar con conversaciones ridículas y repetitivas. Vacaciones de Twitter!!

![alt](https://photos.collectednotes.com/photos/1/b487504f-9687-4ea1-87b6-438bf3026410)

Tendría que armar un bot que hable como yo, tuitee cosas parecidas y responda usando palabras que suelo utilizar (ademas de imágenes de memes), en un par de horas del fin de semana baje todo mi historial de tuits, los procesé removiendo usuarios, urls, y demás, finalmente pude armar un pequeño dataset de unos ~20.000 tuits.
Como mi idea era armar una red neuronal y entrenarla con esos datos (estoy aprendiendo ML), agregue también algunos posts que había escrito a ese corpus de tuits y algún que otro texto que encontré por ahi que había escrito anteriormente.

Después alquilé un servidor de [Amazon](https://aws.amazon.com/) con un buena placa de video ([p2.xlarge](https://aws.amazon.com/ec2/instance-types/p2/) GPU) y deje corriendo todo el finde un script que analizaba esos tuits entrenando el modelo que finalmente aprendería mi estilo de hablar.
El script además imprimía pequeñas frases a medida que la red neuronal aprendía de mis textos, con lo cual cada tanto podia meterme e ir viendo pequeños avances en el aprendizaje. Al principio imprimía cosas sin sentido, pero de apoco comenzaba a aprender patrones entre las letras y de a poco comenzaba a formar palabras que tenían sentido. Después de unas horas comenzaba a escribir frases que tenían mas sentido, hasta que luego de dos días podia escribir frases que tranquilamente hubiese escrito yo mismo (aunque a veces escribía sin sentidos).

![primeras frases del bot](https://photos.collectednotes.com/photos/1/3ec20d49-9d3d-4be0-9c3b-773c4e1442b2) 
Algunas de las primeras frases del bot

Finalmente llegó el lunes y arme un script que se conectaba a Twitter y al recibir mensajes de otros usuario usaba ese modelo entrenado (el Alejandro Bot) y respondía como si fuese yo.

**La experiencia ademas de ser super divertida, me ayudo a darme de cuenta de varias cosas:**

- No es muy descabellado pensar que con un data set muchísimo mas grande y un entrenamiento mucho mayor le resultaría muy difícil a la gente diferenciar entre un Bot o una persona real.
- Ser reemplazado por un Bot puede ser catastrófico si el bot tuitea algo que sea violento, misógino o directamente inapropiado usando tu identidad. Algun que otro tuit lo tuve que borrar porque me pareció inapriopiado. De hecho un usuario bloqueo al bot pensando que era una persona.
- Responder tuits es una actividad muy poco estructurada, pero tranquilamente se podrían generar Bots que automaticen tareas que tienen mas estructura, por ej. pagar cuentas, responder preguntas básicas, recolectar información por nosotros (asistentes virtuales, et al.)

- Las respuestas de los Bots no son super precisas, pero a veces como el cerebro de los humanos ajusta ante errores, llegan a interpretar cosas a partir de una frase inconexa.

![respuestas precisas prueba uno](https://photos.collectednotes.com/photos/1/f0182b59-ffd9-4b63-90ec-b4b6d5e914ae)

- Dejar un Bot haciendo una tarea que a veces no nos gusta (responder tuits) es liberador y me encantaría en el futuro automatizar otros aspectos de mi vida de manera mas controlada, creo que ahi hay muchísimo futuro e industrias enteras.

## ¿Como se hace un bot?

Hay varias formas de hacer Bots, pero acá voy a explicar como hice el mío y el de Ricardo Fort ([@ricardobort](https://twitter.com/ricardobort)).

Mi Bot usó una red neuronal entrenada con mis tuits, pero generar eso es costoso ya que lleva mucho tiempo y recursos, una instancia de Amazon con un buen GPU sale aproximadamente $1 por hora , si consideras que un modelo puede tardar varios días en entrenarse completamente no es un gasto trivial. Si bien es muchísimo mas caro usar una maquina con GPU en Amazon, el tiempo de iteración te permite ver el resultado del modelo muchísimo mas rápido en vez de tener que esperar días para ver que onda lo que entrenaste, y una vez que tenés el modelo guardado en disco podes pasar el código a una maquina mas barata (no hace falta el GPU para generar las secuencias rápidamente), con un m2 para generar las frases es suficiente.

Para entrenar el Bot use [Tensorflow](https://www.tensorflow.org/), gracias a [TFLearn](http://tflearn.org/) que es una abstracción que utiliza Tensorflow a bajo nivel. En este caso particular utilicé una red neuronal que permite predecir secuencias, es decir, dado un aprendizaje anterior y sugiriendo un valor nuevo, predice el siguiente con cierta probabilidad. En este caso el valor sugerido es una secuencia de caracteres (una frase). __Lo increíble es que la red no predice frases, sino que al haber aprendido la relación entre las letras, predice la secuencia de caracteres que luego va a formar una frase. Mind blown.__

![alt](https://photos.collectednotes.com/photos/1/e3013899-bcbf-4b84-919e-b061cb4aa32c)

El entrenamiento no fue muy grande (~1 día ½)y el set de datos es muy muy pequeño con lo cual los resultados fueron buenos a veces — pero no perfectos — claramente es fácil darse cuenta que no estas hablando con una persona, muchas frases terminan siendo inconexas. **Probablemente una forma de entrenamiento mejor hubiese sido entrenar la red basándola en conversaciones reales, en lugar de frases aisladas.**

Acá esta [el código del Bot](https://github.com/acrosa/bot) (version neuronal) básicamente la idea es correr el script [bot-train.py](https://github.com/acrosa/bot/blob/master/bot-train.py) por unos días y eso va a generar el modelo y guardarlo en el disco (model.ftl). A medida que lo entrenas podes ver el uso del GPU con el comando `nvidia-smi` y con htop el uso de CPU.

El script [bot-predict.py](https://github.com/acrosa/bot/blob/master/bot-predict.py) se conecta a tuiter con las credenciales que ingreses en el archivo .twitter y responde basado en ese modelo.
La instancia de Amazon que use fue con el AMI (imagen pre-configurada) que tenia ya instalados Python, Tensorflow, etc. La pueden encontrar acá: “Deep Learning AMI Amazon Linux Version” https://aws.amazon.com/marketplace/pp/B01M0AXXQB

## ¿Hacemos un bot de Fort?
Después de ese experimento se me ocurrió usar el set de datos de tuits de Ricardo Fort ya que el siempre tuiteo de una manera muy general y particular.

Para eso baje todo el archivo de tuits e hice lo mismo que con mi Bot, el problema es que la cantidad de texto de él era mucho menor (solo ~11k tuits), con lo cual termine usando algo mucho mas barato de generar (no hace falta entrenamiento de días) usando “Markov Chains”, encontré una librería de Python que las genera de forma fácil con lo cual solo tuve que modificar [el script del Bot original mínimamente](https://github.com/acrosa/bot/blob/master/bot.py). Los resultados usando Markov son relativamente buenos y muchísimo mas rápidos.

[Acá esta todo el código](https://github.com/acrosa/bot) de los tres ejemplos que es bastante simple, de hecho es el primer codigo de Python que escribo.

Tuve uno de esos días donde te discuten cosas insólitas y sin argumentos en Twitter, me canse y decidí armar un b...

El día que me reemplazó un Bot

# roadmap

![Collected Notes](https://photos.collectednotes.com/photos/1/f7ca8230-b4cb-49b9-9294-4de10192ccb5)

Go read it: [Roadmap](https://collectednotes.com/blog/roadmap)

Collected Notes

Go read it: Roadmap

roadmap

# Como entrevistarse para un trabajo en tecnología 

#### TL;DR 
- Empeza el proceso al menos **dos o tres meses** antes. Idealmente esto lo empezaste mientras estas en tu trabajo actual. *“Interview when you don't need it”*.
- Practica resolver problemas sin la computadora, o usando un editor de texto solamente. Practica con otra persona.
- Envía el CV y aplica al manos a 10-30 empresas al mismo tiempo. Hacelos competir simultáneamente por vos.
- Te están entrevistando pero también estas entrevistándolos vos a ellos. Si no te gusta la gente ni la onda de la empresa es una señal importante.
- Negocia el sueldo *siempre*.

---

#### Preparándose
El proceso lo tenés que empezar al menos dos o tres meses. Es importantísimo que lo hagas mientras estas en otro trabajo porque eso te permite negociar sin presión (el que gana una negociación es el que se puede ir sin perder nada).
Activa tu red, conecta con gente por Twitter, pregunta a gente que labura en las empresas que aplicas si les gusta y como es trabajar ahi. Vas a sorprenderte lo sincera que es la gente cuando otro dev les pregunta.

#### Práctica, práctica y práctica
Muchas de las entrevistas (aunque por suerte ahora esta cambiando) son telefónicas, y luego en persona por varias horas. Los problemas son “coding puzzles” donde evalúan si tenes conocimientos de CS básicos. Como alguien que no termino la facultad debo decir que es muy difícil y estresante rendir este formato de exámenes, pero hay sitios que te permiten practicar este tipo de entrevistas.

#### Shotgun approach
El proceso de entrevista es muy variable, lento y muy probablemente te digan que no. Cuando escucho a alguien decir que aplico a una sola empresa, la rechazaron y se deprimió me da una bronca atómica porque asi no funciona el sistema.
Tenes que entrevistarte o “mandar el CV” a **al menos 10, 20 o 30 empresas** como _**mínimo**_.

Es importante aplicar mas o menos al mismo tiempo (pero deja las que mas te gustan para el final), lo ideal es que tengas todas las ofertas mas o menos al mismo tiempo para hacerlos negociar entre ellos.

#### Negocia siempre
Tenes que negociar siempre, aunque sea por relativamente poco. La mayoría no sabe negociar, generalmente negocias con el reclutador, no tengas miedo de hacer esto. Se claro con lo que queres y a la vez amigable. La idea es que des a entender que queres algo pero que estas interesada/o en trabajar con ellos.

Esto es importante porque generalmente los bonos por rendimiento suelen ser ~5%-10% del sueldo (si los hay). Te imaginas que te rechacen por negociar un porcentaje tan bajo?  
De entrada podes conseguir el equivalente del bono de los próximos dos años antes de entrar! ☺️.

- - - 

Publicado en https://collectednotes.com

TL;DR


Empeza el proceso al menos dos o tres meses antes. Idealmente esto lo empeza...

Como entrevistarse para un trabajo en tecnología

Mi nombre es Alejandro Crosa, nacido y criado en Argentina, unos años atrás llegué a Silicon Valley donde trabajé en los comienzos de LinkedIn, luego en Twitter, Slack y demás.