利玛窦在澳门只待了一年就来了大陆，先是在广东肇庆居住并传教，那里不仅成了他第一个传教驻地，也是他把世界介绍给中国的第一站。他和别的传教士伪装成僧侣，在肇庆建了一个“仙花寺”。在这洋寺庙里，利玛窦等人就拿出了他们带来的西方书籍和器物，像是展览其实更像是科普，包括世界地图、望远镜、《几何原本》等。来观看的大多是当地知识分子，后来在知府的请求下，利玛窦还把地图翻译成中文出版，并取名为“山海舆地全图”，这是中国第一张世界地图。同时，他还把一些西方书籍翻译成中文。

在之后的传教过程中，利玛窦也不断结交中国士大夫，向他们介绍世界传播西方。1601，利玛窦来到北京，向当时的万历皇帝进献了16件贡品，有圣母像、有自鸣钟、有西洋琴、有一张更加丰富详细的世界地图《万国舆图》等。得到了皇帝的信任，他至此一直在北京居住并传教。