En 1960, Folon décide d’envoyer, comme une bouteille à la mer, quelques dessins à des revues new-yorkaises, dont certains montrent rapidement un grand enthousiasme. Horizon, Esquire et The New Yorker les publient, puis Fortune, Atlantic Monthly et Time. Au début des années 1960, il se rend à New York et rencontre Saul Steinberg, qui détermine largement son travail à l’époque et l’incite à découvrir le travail de Paul Klee.
Le succès de Folon en Amérique lui ouvre les portes des galeries et des magazines en Europe. Avec Roland Topor, Folon s’impose comme l’un des grands écrivains graphiques de son temps : « Mes dessins ressemblent à des dessins d’humour, mais ils ne sont pas faits pour rire.» Ses premières affiches datent de cette époque. Maître dans la communication, il en concevra plus de six cents au long de sa carrière.
Suite à de fréquents voyages en Italie, il rencontre l’écrivain Giorgio Soavi, directeur artistique chez Olivetti et conçoit pour la firme italienne à partir de 1965 de nombreux projets : affiches, illustrations de textes, dessin animé (Le message), calendrier, etc. En 1968, il réalise un mural de 36m² pour le pavillon de la France à la Triennale de Milan. En 1969, il expose pour la première fois à New York, à la Lefebre Gallery.
Jusqu’en 1965 environ, son langage se fait exclusivement à l’encre de Chine sur papier blanc. L’artiste française Colette Portal, que Folon épouse en 1961, l’initie progressivement à la couleur. Il s’essaye aux encres colorées ainsi qu’à la sérigraphie avec Jacques Marquet.
Colette et Jean-Michel ont deux enfants : François, né en 1963, et Catherine, née en 1967, qui décède à l’âge de 4 ans. En 1968, après avoir vécu à Paris, la famille s’installe à Burcy, dans la Beauce (France), au sein d’une vieille ferme à la « vue imprenable » qui détermine largement l’œuvre de Folon et l’emmène vers l’aquarelle.