他在杭州电子学院教了五年英文，1994年开了一家翻译社。由于他的英文出色，1995年陪同一个官方代表团出访了美国西雅图，与美国投资商谈判一条高速公路的建设项目。马云这时认识了因特网，他用“啤酒“和”中国“在网上搜查无果。

回到杭州之后，他相信中国人不可能不使用因特网。马云1993年碰到的朋友张红回忆道，“我并不明白他说的是什么。他相信因特网代表社会的未来，对所有的朋友都这样讲。”张红当时还在念大学，后来接下了这个翻译社。马云于是开始网上黄页的工作并且获得预期的成功。他在1997年放弃网上黄页，商贸部建议他参加便利做生意的网站的建设工作，他于是来到北京。

1999年，他在浙江省创建了联系企业与相关供应商的阿里巴巴网站。这个网站是在一个小小的公寓里面创建的，当时一共有十七名合作者。阿里巴巴集团人力资源副总裁戴珊就是原创班组的成员。他回忆阿里巴巴企业受到使命的引导，参加创建的小组的成员拥有同一个梦想。这个集团现在共有24000名员工。

阿里巴巴在中国进入世贸组织的推动下获得了成功。但是马云已经有了另一项计划，即为个人消费者服务。他回忆当时所有人都很惊讶：天啊，你要进入eBay的地盘吗？他认为没有什么不行。结果，淘宝网站以及名牌产品交易网站天猫网站每天的订购数量达到了一千六百万人次。

马云知道中国人并不寻求在拍卖场上拍到商品，而是喜欢淘宝。为他写传记的刘世英认为，中国人喜欢他不断满足大众需求的创新精神。马云为担心网上付款失窃的网民创建了阻止向第三方账户汇款的支付系统。

如今，这个从底层堀起的英雄在将eBay和PayPal赶出中国、并自诩支持五千多万中小企业之后打算激流勇退。2012年，他大部分时间呆在美国，用于思考和放松。谢尔透露，马云虽然代表中国梦，但是他有着自己的美国梦。他向往美国这种激励走向成功的开放社会。他认为马云今后会对事物的意义进行思考，总是在寻求发明生活当中的下一个篇章。而正如这些不断探索的人士，他的目标并不明确，也可能不一定会成功。